论文
探索不相交噪声数据流形的扩散生成模型中的时间调节
Exploring Time Conditioning in Diffusion Generative Models from Disjoint Noisy Data Manifolds
摘要
实际上,训练扩散模型通常需要明确的时间调节来引导网络完成去噪采样过程。特别是在 DDIM 等确定性方法中,缺乏时间调节会导致性能显着下降。然而,其他确定性采样方法(例如流匹配)可以在没有这种条件的情况下生成高质量的内容,这就提出了其必要性的问题。在这项工作中,我们从几何角度重新审视时间调节的作用。我们分析了前向扩散过程下噪声数据分布的演变,并证明在高维空间中,这些分布集中在嵌入输入空间内的低维超圆柱状流形上。我们认为,成功的生成源于这些流形在高维空间中的解开。基于这一见解,我们修改了 DDIM 的前向过程,以将噪声数据流形与流匹配方法对齐,证明只要噪声流形根据流匹配方法演化,DDIM 就可以在没有时间调节的情况下生成高质量的内容。此外,我们通过将类解耦到不同的时间空间,将我们的框架扩展到类条件生成,从而通过类无条件去噪模型实现类条件合成。大量的实验验证了我们的理论分析,并表明无需显式条件嵌入即可实现高质量生成。