论文
统一理解扩散与流模型的微调和采样
A unified perspective on fine-tuning and sampling with diffusion and flow models
摘要
论文研究训练扩散与流模型,对基础密度经过指数倾斜形成的目标分布采样,同时涵盖未归一化密度采样和预训练模型奖励微调。问题可从随机最优控制视角,用伴随或得分匹配方法处理,也可从非平衡热力学视角求解。统一框架提出三项贡献:偏差—方差分解表明,伴随匹配、伴随采样和新型得分匹配具有有限梯度方差,而目标得分匹配及条件得分匹配不具备这一性质;推导精简伴随 ODE 的范数界,支持伴随方法的理论有效性;将 CMCD、NETS 损失及新的 Crooks、Jarzynski 恒等式扩展到指数倾斜设置。研究通过 Stable Diffusion 1.5 与3的奖励微调验证分析。