论文
《冰雪奇缘》恐龙无需定位器即可本地化图像编辑
Frozen DINO Localizes Image Edits Without a Localizer
摘要
本地化的图像编辑可以改变照片的含义,同时保留大部分内容的真实性,因此取证分析必须确定编辑发生的位置。我们表明,来自冷冻 DINO 编码器的补丁级扰动响应本身就是定位图。 无需训练 来自补丁词元漂移的 AI 图像编辑的本地化 (TRAIL) 应用一种全局 Haar 扰动并映射相应补丁词元之间的余弦漂移。在 80 个源不相交的 CocoGlide 测试图像上,TRAIL 达到 0.903 patch AUROC,而掩模监督的 Detective SAM 则达到 0.912;固定阈值 Dice 为 0.619 与 0.709,而预言机阈值将 TRAIL 提高到 0.790。不变地转移到泊松图像插值,TRAIL 达到 0.855 AUROC 与 0.864,这表明提示在没有生成器的情况下仍然存在。在 16 个 DINO 编码器中,最佳块位于标准化深度 0.80-0.94。全局背景很重要:局部画布扰动的 AUROC 从全局的 0.903 下降到 0.857,独立编码作物的 AUROC 从 0.735 下降。因此,冻结的 DINO 补丁标记包含强大的后期层定位信号,其可见性取决于扰动和保留的上下文。代码:https://github.com/VishalJ99/trail-image-edit-localization。