论文
FlowBender:用于自校正条件流的反馈感知训练
FlowBender: Feedback-Aware Training for Self-Correcting Conditional Flows
摘要
条件扩散和流动模型通常无法满足定义其任务的约束。例如,深度条件模型通常会生成重新提取的深度与输入不一致的图像,即使前向算子(定义约束的深度预测器)在训练和推理过程中都可用。现有的方法通常分为两类:将条件信号视为静态提示并在推理时忽略对齐信息的监督模型,以及通过手动调整的线性更新进行参考的基于指导的方法,通常会根据生成样本的合理性来交换条件的保真度。我们认为,这两种范式的根本差距在于,模型从未经过训练来利用其自身的对齐误差。我们引入了 FlowBender,这是一个闭环框架,它将这种错误视为一流的输入,训练网络以学习以推理时间反馈为条件的校正策略。在每个步骤中,无引导的前瞻通道会估计干净的信号,通过前向运算符计算特定于任务的偏差,而细化通道会消耗该信号以产生校正的速度。我们提出了 FlowBender 的几种变体,包括用于可微分算子的基于梯度的公式和用于不可微分设置(例如 JPEG 压缩)的零阶变体。为了高效采样,我们引入了一种先验步骤快捷方式,可以以最小的额外计算成本实现闭环校正。在图像到图像的转换、恢复和 3D 网格纹理方面,FlowBender 始终优于标准监督基线、对齐损失增强训练和最先进的推理时间指导,同时提高了保真度和合理性,而不是相互抵消。项目页面:https://flow-bender.github.io/