论文

了解为什么基础模型适用于扩散生成的图像检测

Understanding Why Foundation Models Work for Diffusion-Generated Image Detection

模型评测模型行为与机制分析

摘要

视觉基础模型最近已成为强大的特征提取器,用于检测人工智能生成的图像,实现跨生成器的强大泛化以及对常见图像退化的鲁棒性。然而,人们对其有效性背后的原因知之甚少。在这项工作中,我们研究了基于基础模型的检测器利用哪些线索来区分真实图像和扩散生成的图像。为此,我们设计了一种基于 DDIM 反演的临时分析协议。给定真实图像,我们通过改变 DDIM 反转的深度来生成一系列合成副本。尽管大多数副本在语义上与真实参考相同,但由于扩散合成引入的细微痕迹,检测器分数在它们之间存在显着差异,这表明其决策并非主要由语义失败驱动。通过频率交换分析,我们进一步揭示,检测器利用的判别线索主要集中在中低频率范围内,而不是像通常与生成模型相关的伪像的情况那样仅集中在高频范围内。最后,潜在空间分析表明,再生图像表现出降低的方差和有效维数,这表明扩散模型不能完全再现真实数据的可变性。总的来说,我们的结果表明,基于基础模型的检测器通过捕获真实图像和扩散生成图像之间的非语义中低频率分布差异而取得成功。这些发现为此类探测器的鲁棒性和泛化性提供了新的见解,并为更可解释的取证方法提出了方向。