少步扩散的连续时间分布匹配 蒸馏

步骤蒸馏已成为加速扩散模型的领先技术，其中分布匹配蒸馏（DMD）和一致性蒸馏是两个代表性范式。虽然一致性方法沿着完整的 PF-ODE 轨迹强制执行自一致性，以引导其走向干净的数据流形，但普通的 DMD 依赖于几个预定义的离散时间步长的稀疏监督。反向 KL 散度的这种受限制的离散时间公式和模式搜索性质往往会表现出视觉伪影和过度平滑的输出，通常需要复杂的辅助模块（例如 GAN 或奖励模型）来恢复视觉保真度。在这项工作中，我们引入了连续时间分布匹配（CDM），首次将 DMD 框架从离散锚定迁移到连续优化。 CDM 通过两种连续时间设计实现了这一点。首先，我们用随机长度的动态连续计划替换固定离散计划，以便在采样轨迹上的任意点而不是仅在几个固定锚点上强制执行分布匹配。其次，我们提出了一个连续时间对齐目标，该目标对通过学生速度场推断的潜在特征执行主动偏离轨迹匹配，从而提高泛化能力并保留精细的视觉细节。对不同架构（包括 SD3-Medium 和 Longcat-Image）的大量实验表明，CDM 无需依赖复杂的辅助目标，即可为几步图像生成提供极具竞争力的视觉保真度。代码可在 https://github.com/byliutao/cdm 获取。