扩散模型的噪声表设计：最优控制视角

我们开发了一个用于分析和设计扩散模型中的噪声表的原则框架。我们证明，可以将这一设计问题改写为最优控制问题，其状态是根据 ODE 演化的扩散过程的 Fisher 信息，控制输入是噪声表。最优控制问题的目标是涉及 Fisher 信息的函数，它被证明是 Kullback-Leibler 采样误差的上限。通过解决这个最优控制问题，我们获得了噪声调度的充分条件，在该条件下可以实现最先进的 $\tilde{\mathcal{O}} (d/n)$ 采样误差，其中 $d$ 是数据维度，$n$ 是离散化步骤的数量。虽然现有的理论工作也证明 $\tilde{\mathcal{O}}(d/n)$ 采样误差范围是可以实现的，但这些结果适用于特定的噪声时间表，其中不包括实践中使用的时间表。在对数据分布的进一步参数假设下，我们表明可以获得噪声表的封闭式表达式。这些噪声调度通过允许可调整的附加参数来概括标准经验调度，例如指数和 S 形调度。系统地调整这些计划的参数会产生新的计划，在图像生成基准上获得优异的 FID 分数。