通过盆地几何和循环去噪实现扩散模型记忆的早期特征

扩散模型在训练早期进行泛化，然后再生成单个训练样本。标准测试仅在一次生成产生近似副本时才检测记忆，从而使发布的模型未经审核，直到其输出失败。我们证明，记忆在出现在生成的样本中之前就被编码在学习的能量景观的几何形状中，我们将这种状态称为潜在记忆。使用分数散度和盆地体积，我们发现局部盆地在训练样本周围形成，并在第一个记忆样本出现之前将它们与保留的样本分开，其起始点遵循与记忆时间相同的 $O(n)$ 缩放。我们通过循环去噪来探测这些盆地，反复应用部分噪声和去噪。在精确的经验分数下，我们证明，在孤立的训练样本附近开始的循环可以恢复它，并以高概率在任何有限数量的循环中返回到它。在经过训练的模型中，循环从 CelebA 和 CIFAR-10 检查点恢复训练图像，这些检查点的一次性样本不包含副本，并且在 CelebA 检查点具有 0.1% 一次性副本，500 个循环将记忆分数提高到 30% 以上。骑自行车还揭示了退化吸引子，这些吸引子不与任何单一的训练图像相匹配，并且会随着训练的进行而逐渐消失，因此居住在盆地中本身并不意味着记忆。这些发现适用于跨优化器、架构、噪声调度和训练集大小的高斯混合、CelebA 和 CIFAR-10，并扩展到现成的稳定扩散 v1.4，其中循环条件-无条件发散间隙将记忆提示与非记忆提示分开，在 1% FPR 时 AUC 为 0.944，TPR 为 0.866。更广泛地说，扩散模型记住的是其学习分布的几何形状和稳定性的属性，评估它需要检查这种结构，而不是单独生成的输出。