通过镜像遗忘和噪声一致偏差在扩散模型中训练数据归因

训练数据归因（TDA）应该能够实现生成模型的可解释性并促进各种相关的下游任务。尽管如此，当前的 TDA 方法缺乏可靠性和稳健性，阻碍了它们在现实世界中的应用。在本文中，我们朝着更可靠、更稳健的扩散模型 TDA 迈出了决定性的一步。我们建议使用镜像失学习和噪声一致偏斜（MUCS）来执行 TDA。这个想法是通过有界镜像梯度上升来微调第二个模型，并使用一致的噪声样本来测量该模型相对于原始模型的归一化偏差。我们表明，尽管 MUCS 在概念上简单且通用，但它在三个不同数据集上系统地远远优于现有方法。我们还研究了核心设计选择对最终性能的影响，并分析了生成项目中影响实例重叠的新颖方面以及集成 TDA 方法的潜力。我们相信，我们的发现可能对更一般的遗忘设置以及需要比较扩散损失的任务产生更广泛的影响。