通过对比轨迹斥力实现更平滑的流量匹配

轨迹交叉仍然是流量匹配（FM）中的一个关键瓶颈，之前的工作通常从理论优化的角度来看待这些交叉，从而导致速度平均。他们试图通过事后蒸馏或端点耦合来间接解决这个问题，而不明确调节中间轨迹。在本文中，我们引入了一种新的网络学习视角：交叉点本质上会在目标速度场中引起较大的局部 Lipschitz 常数，从而导致两个缺点。首先，高利普希茨常数对应于速度场中的高频信号，由于频谱偏差，神经网络难以适应该高频信号。其次，它们还意味着剧烈的速度变化，导致少步推理中出现严重的数值积分错误。为了缓解这个问题，我们提出了 CoFlow，一个将对比学习范式引入 FM 的框架，以在训练期间明确排斥轨迹，从而降低速度场的局部 Lipschitz 常数。具体来说，我们通过注入排斥漂移项，从随机微分方程 (SDE) 角度制定 CoFlow。这种漂移主动引导正样本的前进过程远离负轨迹，有效降低局部 Lipschitz 常数。此外，我们从该 SDE 中导出了等效的随机插值公式，提供了一个简单且易于处理的设计空间来控制负样本的影响。 ImageNet 256x256 上的大量实验表明，与标准 FM 相比，CoFlow 在少步推理（例如 20 步）中显着降低了 FID，且没有增加训练开销。代码可访问：https://github.com/HKUST-LongGroup/CoFlow