论文
条件流匹配何时可以取代逐点负对数似然?
When Can Conditional Flow Matching Replace Pointwise Negative Log-Likelihood?
摘要
流匹配可以实现无似然训练,但对齐方法越来越多地重用条件流匹配(CFM)损失作为端点负对数似然(NLL),并将它们的新/旧差异作为对数似然比。我们描述这些替换何时有效。对于线性高斯路径,我们精确地将端点 NLL 分解为熵、加权 CFM 目标、内部速度分数残差和边界残差。因此,仅当相应的残差抵消时,仅 CFM 的估计和差异才是准确的。在 离策略 总体最优处,普通 CFM 通常不是逐点 NLL 估计器,而 \(w_{\mathrm{sc}}(t)=(1-t)/t\) 删除了内部残差;此积极结果通常不会延伸到训练或 同策略 对齐。即使对于相同的终点法则或在替代优化之后,同策略 对数比也可能保持偏差。跨维度、分布和几何形状的实验支持了这些结论以及使不精确比率变得有用的机制。 **更广泛地说,该分解为将基于可能性的 LLM 方法应用于流匹配提供了理论基础,同时区分精确替换和受控代理。**