论文
从 Euler 到 Dormand-Prince:用于流匹配生成模型的 ODE 求解器
From Euler to Dormand-Prince: ODE Solvers for Flow Matching Generative Models
摘要
从流匹配生成模型中采样需要求解常微分方程 (ODE),其计算成本主要由神经网络前向传递决定。我们通过泰勒展开式从第一原理推导出四种经典的 ODE 求解器——Euler、Explicit Midpoint、Classical Runge-Kutta (RK4) 和 Dormand-Prince 5(4),在 PyTorch 中从头开始实现它们,并系统地对它们在从 2D 玩具分布到 MNIST 数字的条件流匹配任务上的效率进行基准测试。在定量方面,我们使用切片 Wasserstein 距离构建 NFE 质量 Pareto 前沿,发现 RK4 在 80 个函数评估时实现的样本质量与 Euler 在 200 个评估相当。除了再现已知的收敛速度之外,我们报告了两个经验观察结果:(1)学习速度场的 Jacobian 特征值谱在 t=1 附近急剧变硬,解释了为什么自适应 Dormand-Prince 求解器自动将其步长预算集中在轨迹末端; (2) 对于训练不足和较小的模型,低阶和高阶求解器之间的质量差距会扩大,这表明当模型不完美时,求解器的选择最为重要。代码和所有实验脚本都是公开的。