论文

基于分数及反射扩散模型的概率流常微分方程

Probability flow ODEs in score-based and reflected diffusion models

模型推理解码与生成控制

摘要

概率流常微分方程 (PF-ODE) 广泛用作基于分数的扩散模型的确定性采样器。他们通常的理由是扩散的福克-普朗克方程可以重写为由前向扩散的得分函数驱动的连续性方程。然而,这种恒等式并不能保证所产生的速度场会产生适定的流动。我们为基于扩散和反射扩散的生成模型的这种确定性采样器的设计提供了理论见解。我们确定了常规拉格朗日 PF-ODE 流存在的充分条件;反向采样和可逆性需要两侧发散控制。对于学习分数,采样器稳定性由未加权速度误差控制,暴露出与密度加权分数匹配的不匹配,并激发雅可比行列式、发散、增长和压缩的架构控制。在流形假设下,正时间正则化证明了提前停止 PF-ODE 的合理性,而常数在数据端点附近恶化;一个明确的球体示例表明,即使扩散边际保持良好定义,随着噪声水平消失,精确的确定性流也会变得奇异。这些理论见解转化为稳定、可逆和约束保持扩散采样器的具体设计原则。我们使用受控数值实验来说明这些设计原理的实际相关性。