论文

Scout-Refine-Correct:训练Flow生成器在采样时反复改进自身候选

Scout-Refine-Correct: Teaching Flow Models to Refine Their Own Samples

模型推理模型训练监督微调与指令调优测试时计算扩展解码与生成控制

摘要

通过扩散或流匹配训练的图像生成模型,其质量很大程度由训练预算决定;推理时通常只能调采样步数,而增加步数的收益存在上限。Scout-Refine-Correct(SRC)提出一种训练方案,使流匹配生成器真正获得推理时细化能力。每个采样步中,模型先沿自身轨迹向前试探 $K$ 步,外推完整样本的估计,再将该估计作为自条件信号反馈给自身,之后才执行实际采样步;这一过程可重复 $R$ 轮细化。训练时,两个校正损失施加在模型自身轨迹实际到达的状态上,而非仅在真值路径上,使模型学会利用该信号得到新样本,避免坍缩到次优样本。在 ImageNet-256 上,SRC 在 NFE 约550时将 LightningDiT-B 的 FID 从约14.5改善至约7.26,匹敌借助 oracle FID 验证器选样的特权 best-of-$N$ 基线。SRC 不使用外部验证器或奖励信号,经消融后的版本相对基础架构几乎不增加参数。结合 SRC 与 best-of-$N$ 后,在 NFE 约4400时进一步达到约3.81的 FID,说明两个方向互补。论文对试探信号的架构路径、试探前瞻步数、每个校正损失及训练安排进行消融,以展示训练中的关键有效组成。

Scout-Refine-Correct:训练Flow生成器在采样时反复改进自身候选:论文配图
图7:从自条件基线到SRC所使用的架构。s仅通过无偏置嵌入器产生的拼接token进入网络,一个AdaLN槽位由时间与类别驱动。K不是网络输入。