论文

SAC-Copula:通过平滑相关 Gumbel 域为扩散语言模型提供质量保护水印

SAC-Copula: Quality-Preserving Watermarking for Diffusion Language Models via Smooth Correlated Gumbel Fields

模型推理解码与生成控制

摘要

水印扩散语言模型 (DLM) 需要与迭代并行揭露而不是自回归解码兼容的机制。现有的基于采样的水印方法通常注入位置独立同分布。扰动,这可能与 DLM 解码动态不一致并降低生成质量。我们提出了 SAC-Copula,这是一种基于通过高斯 copula 构建的平滑、局部相关的 Gumbel 扰动场的 DLM 的质量保护水印方法。我们使用协方差感知过滤和本机样本校准进一步开发了 SAC 感知检测器。机制级分析表明,局部相关性降低了潜在扰动粗糙度并更好地匹配迭代细化动态。 LLaDA 上的实验表明,与现有基线相比,SAC-Copula 实现了良好的质量-可检测性权衡。特别是,对 Dream-7B 和其他数据集的进一步评估表明,SAC-Copula 相对于 i.i.d. 显着提高了 PPL 尾部稳定性。 Gumbel 基线,同时保持强大的低 FPR 可检测性和具有竞争力的整体生成质量。额外的词元编辑压力测试进一步评估受控同步漂移下水印的稳健性。代码可在 https://github.com/PunkyKnife/SAC-Copula 获取。