教师功能漂移：具有预训练扩散表示的一步扩散 蒸馏

从预训练的扩散和流量匹配模型中采样通常需要多次前向传递才能生成多样化的高保真图像。现有的 蒸馏 方法通常依赖于多个辅助网络、精心设计的训练阶段或复杂的优化管道。在这项工作中，我们重新审视了最近提出的漂移模型目标，并表明单个漂移损失可以直接用于简化一步 蒸馏。一个关键的观察是，预训练的扩散教师本身已经提供了强大的表示空间。与依赖于额外的预训练特征提取器的原始漂移模型不同，我们使用预训练教师模型的中间隐藏状态作为特征表示。这消除了训练或引入额外表示网络的需要，同时保留了语义上有意义的特征几何形状以用于漂移。此外，我们引入了轻量级模式覆盖损失，以减轻 蒸馏 期间的模式崩溃，并鼓励学生生成器覆盖不同的教师支持的区域。在 ImageNet 和 SDXL 上进行的大量实验表明，我们的方法实现了高效的一步生成，具有具有竞争力的图像质量和多样性，在 ImageNet-64$\times$64 上实现了 1.58 的 FID 分数，在 SDXL 上实现了 18.4 的 FID 分数，同时大大简化了整个 蒸馏 框架。