阐明扩散概率模型的 SNR-t 偏差

扩散概率模型在广泛的生成任务中表现出了卓越的性能。然而，我们观察到这些模型经常存在信噪比时间步长 (SNR-t) 偏差。这种偏差是指推理阶段去噪样本的信噪比与其相应的时间步长之间的偏差。具体来说，在训练过程中，样本的信噪比与其时间步长严格耦合。然而，这种对应关系在推理过程中被破坏，导致错误累积并损害生成质量。我们提供了全面的经验证据和理论分析来证实这一现象，并提出了一种简单而有效的差分校正方法来减轻 SNR-t 偏差。认识到扩散模型通常会在反向去噪过程中关注高频细节之前重建低频分量，因此我们将样本分解为各种频率分量，并对每个分量单独应用差分校正。大量实验表明，我们的方法显着提高了各种扩散模型（IDDPM、ADM、DDIM、A-DPM、EA-DPM、EDM、PFGM++ 和 FLUX）在各种分辨率的数据集上的生成质量，计算开销可以忽略不计。代码位于 https://github.com/AMAP-ML/DCW。