平均流量 蒸馏：用于流量匹配模型的稳健且稳定的 蒸馏

流匹配模型在广泛的生成任务中表现出了强大的性能。然而，它们对基于 ODE 的迭代采样的依赖会在推理中产生大量的计算开销，这限制了它们在实时场景中的适用性。虽然 蒸馏 是一个有前途的解决方案，但现有方法很大程度上借鉴了基于扩散的分数匹配，通常无法利用流的内在几何结构，并遭受训练不稳定、高方差和生成质量下降的困扰。在本文中，我们提出了平均流蒸馏（MFD），这是一种专为流匹配模型量身定制的新型蒸馏框架。我们从理论上证明，MFD 充当时间低通滤波器，有效抑制变分得分 蒸馏 (VSD) 中固有的高频优化噪声，同时确保全局轨迹一致性。我们进一步证明了平均流匹配定理，确定匹配预期平均速度足以实现严格的分布对齐。根据经验，在高维流形的挑战性任务（包括 4D 占用预测和文本到图像生成）中，MFD 实现了最先进的性能，实现了高保真单步生成。