扩散模型的顿悟：模加法案例研究

尽管扩散模型在实证上取得了成功，但从机制的角度来看，人们对扩散模型如何泛化仍然知之甚少。我们证明，用流匹配目标训练的扩散模型在模加法上出现顿悟现象（过拟合后的延迟泛化），从而能够对其内部计算进行受控分析。我们通过两个级别的数据体系研究这种现象。在单图像机制中，机制分析揭示了该模型通过组合各个操作数的周期表示来实现模加法。在具有高类内变异性的多样化图像体系中，我们发现该模型利用其迭代采样过程将任务划分为算术计算阶段，然后是视觉去噪阶段，并由关键时间步阈值分隔。我们的工作提供了扩散模型中算法学习的机制分解，揭示了这些模型如何连接连续像素空间生成和离散符号推理。