论文

扩散模型中对称性破缺和非局域性相变的并发

Concurrence of Symmetry Breaking and Nonlocality Phase Transitions in Diffusion Models

模型评测模型行为与机制分析

摘要

扩散模型在生成动态过程中的关键时间窗口内经历相变,并具有两种互补的临界诊断。对称性破缺图将临界窗口视为当轨迹分叉为能量景观的不同语义最小值时,而非局域图将临界窗口视为局部去噪失败时。我们研究了这种相变的两个概念在现代扩散 Transformer 中是否同时存在。通过评估生成轨迹的动态和结果,我们观察到非局域性和对称性破缺关键时刻几乎同时发生。我们的工作是第一个在实践中统一相变的两个概念的工作:它为扩散模型何时以及为何依赖调节和全局去噪提供了具体的诊断,从而能够对模型效率进行原则性评估,并指导架构和采样方案的设计,以避免不必要的计算。