自回归图像生成水印的鲁棒性

自回归 (AR) 图像生成器的激增需要对其输出进行可靠的检测和归因，以减少错误信息，并从训练数据中过滤合成图像以防止模型崩溃。为了满足这一需求，专门为 AR 模型设计的水印技术在生成时嵌入了微妙的信号，从而可以通过相应的水印检测器进行下游验证。在这项工作中，我们研究这些方案并证明它们对水印去除和伪造攻击的脆弱性。我们评估现有的攻击并进一步引入三种新的攻击：（i）矢量量化再生去除攻击，（ii）基于对抗性优化的攻击，以及（iii）频率注入攻击。我们的评估表明，通过访问单个水印参考图像并且无需访问原始模型参数或水印秘密，删除和伪造攻击可以是有效的。我们的研究结果表明，现有的 AR 图像生成水印方案不能可靠地支持数据集过滤的合成内容检测。此外，它们还支持水印模仿，从而可以操纵真实图像来模仿生成器的水印并触发错误检测，以防止将其包含在未来的 模型训练 中。