论文

自洽流:统一修正流模型的速度和端点预测

Self-Consistent Flow: Unifying Velocity and Endpoint Prediction for Rectified Flow Models

应用与实践内容创作

摘要

在基于整流流的生成模型中,可以训练神经网络来预测两个不同的目标,例如瞬时速度或数据端点,以执行去噪。尽管先前的工作表明这些参数化会导致不同的经验行为,但它们各自优势背后的机制仍有待探索,并且如何有效地将它们结合起来仍不清楚。在这项工作中,我们分析了不同参数化的学习误差如何影响生成性能。我们表明,预测数据端点有一个清晰的训练信号,可以稳定训练,而预测速度可以在数据流形附近保持稳定的采样动态。受这些见解的启发,我们提出了自洽流(SC-Flow),这是一种结合了两种参数化优点的新方法。通过采用轻量级一致性损失,SC-Flow 联合训练单个网络来预测本地速度和数据端点,并且两个预测之间的一致性提高了模型的性能。该方法不需要重大的架构变化,并且增加的计算开销最小。关于图像生成任务的大量实验表明,SC-Flow 极大地稳定了优化并提高了生成路径的直线度,从而使生成质量比标准整流流基线显着提高。