扩散模型中是否需要单调采样？

扩散模型通过迭代地对高斯先验进行去噪，遍历一系列噪声水平来生成样本，这些噪声水平在每个已发布的采样器中单调递减。六年的紧张工作已经完善了这个配方的几乎每个方面，包括腐败算子、训练目标、时间表形状、架构和 ODE 求解器。然而，单调性假设本身从未经过系统检验。在这里我们问单调采样是承载的还是仅仅是常规的。我们设计了四个系列的结构化非单调时间表，并将它们应用于三个架构不同的生成模型：DDPM、EDM 和 Flow Matching，涵盖从 10 到 200 个功能评估的 NFE 预算，以及 CIFAR-10 上的 42 单元超参数消融。在所有 90 个测试配置中，没有测试的非单调计划在单调基线上有所改进。然而，惩罚的幅度几乎跨越了三个数量级：DDPM 中持续且实质性的，流量匹配中中等的，EDM 中几乎为零。我们证明这种变化不是噪声，而是每个经过训练的降噪器的结构属性，我们将其形式化为时间表灵敏度系数，这是一种廉价的、与体系结构无关的诊断，提供了在临界噪声水平下不收敛到贝叶斯最优降噪器的证据。我们的研究结果证明了该领域对单调时间表的默认依赖，并提供了一种新的扩散模型质量探索，与 Frechet 起始距离等样本质量指标相补充。