论文
如何引导您的流程:通过流程图奖励指导进行几步调整
How to Guide Your Flow: Few-Step Alignment via Flow Map Reward Guidance
摘要
在生成建模中,我们通常希望生成能够最大化用户指定奖励的样本,例如美学质量或与人类偏好的一致性,这个问题称为 \textit{guidance}。尽管它们被广泛使用,但现有的制导方法要么需要昂贵的多粒子、多步骤方案,要么依赖于人们知之甚少的近似值。我们将指导重新表述为 \textit{确定性最优控制问题},产生一个算法层次结构,在最粗略的层面上包含现有的方法。我们证明了 \textit{flow map} 是最近因其在快速推理中的作用而引起人们极大兴趣的对象,它自然地出现在最优解决方案中。基于这一观察,我们提出了 \textbf{Flow Map Reward Guidance (FMRG)}:一个 无需训练、\textit{single-trajectory} 框架,它使用 Flow Map 来整合和引导流程。在文本到图像的尺度上,FMRG 在反问题和奖励引导生成方面匹配或超越了 \textbf{少至 3 个 NFE} 的基线,与现有技术相比至少提供了一个数量级的加速。代码可在 https://github.com/jrrhuang/fmrg 获取。