论文
ImageAttributionBench:我们距离通用归因还有多远?
ImageAttributionBench: How Far Are We from Generalizable Attribution?
摘要
生成式人工智能的快速发展使得能够创建高度真实且多样化的合成图像,这给图像来源和错误信息检测带来了严峻的挑战。这凸显了有效图像归因的迫切需要。然而,现有的归因数据集受到规模有限、生成方法过时和语义多样性不足的限制,阻碍了稳健且可推广的归因模型的发展。为了解决这些限制,我们引入了 ImageAttributionBench,这是一个综合数据集,包含由各种具有最先进 (SOTA) 架构的高级生成模型合成的图像。该数据集涵盖多个现实世界语义领域,提供丰富的多样性和规模,以支持和加速图像归因研究的进展。为了模拟真实世界的归因场景,我们在两个具有挑战性的设置下评估了 ImageAttributionBench 上的几种 SOTA 归因方法:(1)在标准平衡分割上进行训练并在降级图像上进行测试,以及(2)在语义上不相交的分割上进行训练和测试。在这两种情况下,当前的方法始终表现出较差的性能,揭示了它们在鲁棒性和对未见语义内容的泛化方面的重大局限性。我们的工作为促进未来图像归因方法的开发和评估提供了严格的基准。