论文

使用无发散粒子引导的扩散模型中的多样化采样

Diverse Sampling in Diffusion Models with Divergence-Free Particle Guidance

应用与实践内容创作

摘要

现代生成模型可以产生高质量的样本,但相同条件下的独立样本往往会产生高度相似的输出。基于粒子的方法通过让批次中的样本相互作用(通常通过排斥力)来增加多样性。然而,这些力量也会将每个样本推离数据分布并产生可见的伪影。我们推出了 EDDY,这是一种旨在避免这种故障模式的 无需训练 粒子制导方法。 EDDY 不是排斥梯度,而是通过反对称矩阵场耦合粒子,该矩阵场通过 Stein 算子,这是一系列漂移扰动,使 Fokker-Planck 方程保持不变。与排斥引导不同,这些相互作用不会改变粒子的分布,同时批次是独立的。出于同样的原因,它们无法自行创造多样性,因此 EDDY 将它们与负相关的初始化配对,以保持每个粒子的先验准确。为了将 EDDY 与 DINOv2 等感知内核结合使用,我们使用有限差分和 Hutchinson 估计来近似其二阶项。在 FLUX.1-dev、FLUX.2-klein 和 SDXL 中,EDDY 在匹配多样性的情况下比现有粒子制导方法实现了更高的图像质量和快速对准。