生成的图像更容易忘记：合成图像检测的机器遗忘视角

生成图像的鲁棒检测对于防止生成模型的滥用至关重要。现有方法主要依赖于从人工注释的训练数据集中学习，限制了它们对看不见的分布的泛化。相比之下，在网络规模数据集上预训练的大规模视觉模型（LVM）通过接触不同的分布表现出卓越的泛化能力，为这项任务提供了一种变革性的范式。然而，我们的实验结果表明，在自然图像主导的数据上预训练的 LVM 可以有效地捕获自然图像和生成图像的特征，产生相对较低的损失，从而限制它们之间的区分能力。这就提出了一个关键问题：LVM 在捕获自然图像和生成图像的特征时何时以及如何表现出不同的行为？这项研究揭示了一个见解：在遗忘过程中，LVM 表现出不同的遗忘动态，生成的图像的特征退化速度比自然图像更快。受不同动态的启发，我们引入了两种检测方法：1）无数据检测，它修剪模型参数以在没有数据访问的情况下诱导忘却；2）数据驱动检测，它优化 LVM 以忘却与生成图像相关的知识。在各种基准上进行的大量实验表明，我们基于遗忘的方法优于传统的检测方法。通过将检测任务重新定义为机器遗忘问题，我们的工作为生成图像检测建立了新的范例。