论文

AnyFlow:带有 同策略 流程图 蒸馏 的任意步骤视频扩散模型

AnyFlow: Any-Step Video Diffusion Model with On-Policy Flow Map Distillation

摘要

一致性 蒸馏 显着提高了少步视频生成的性能。然而,随着测试时分配更多采样步骤,一致性蒸馏模型的性能通常会下降,从而限制了它们对任何步骤视频扩散的有效性。出现这种限制是因为一致性 蒸馏 用一致性采样轨迹取代了原始的概率流 ODE 轨迹,削弱了 ODE 采样的理想测试时间缩放行为。为了解决这个限制,我们引入了 AnyFlow,这是第一个基于流图的任意步骤视频扩散 蒸馏 框架。 AnyFlow 不是仅针对几个固定采样步骤提炼模型,而是优化完整的 ODE 采样轨迹。为此,我们将 蒸馏 目标从端点一致性映射 $(z_{t}\rightarrow z_{0})$ 转移到任意时间间隔内的流图转换学习 $(z_{t}\rightarrow z_{r})$。我们进一步提出了流图向后模拟,它将完整的欧拉采样轨迹分解为快捷流图转换,从而实现高效的 同策略 蒸馏 ,从而减少测试时错误(即,少步采样中的离散化错误和因果生成中的暴露偏差)。跨双向和因果架构、参数范围从 1.3B 到 14B 参数范围的大量实验表明,AnyFlow 在少步机制中实现了性能匹配或超越基于一致性的对应方案,同时通过采样步预算进行扩展。