论文

FlowMap-OPD:rollout——用于少步流图生成器的策略蒸馏的内核分离

FlowMap-OPD: Rollout--Kernel Separation for On-Policy Distillation of Few-Step Flow-Map Generators

摘要

包括 MeanFlow 和一致性模型在内的少步流图生成器可以通过远程传输实现高效采样,但它们的策略蒸馏仍未得到充分探索。我们引入了 FlowMap-OPD,这是一个策略蒸馏框架,它将学生状态获取与教师-学生分布比较分开。基于状态边际的公式建立了这种分离,而流速一致性将本地监督与部署的远程地图连接起来。在此框架内,我们开发了流量图、诱导速度和瞬时速度分布监控,每种监控都与单独指定的本机流量图卷展栏配对。针对三种教师奖励的跨容量 ImageNet 实验确定了瞬时速度分布监督和独立可调的学生一致性是最有效的选择。在文本到图像的实验中,FlowMap-OPD展示了强大的多专家整合能力,并在任务性能和收敛速度上超越了多奖励Flow-Map GRPO。