论文

SubFlow:用于多样化一步生成的子模式条件流匹配

SubFlow: Sub-mode Conditioned Flow Matching for Diverse One-Step Generation

应用与实践内容创作

摘要

流匹配已成为一种强大的生成框架,最近的几个步骤方法实现了显着的推理加速。然而,我们发现了一个关键但被忽视的局限性:这些模型遭受严重的多样性退化,将样本集中在主导模式上,而忽略了目标分布的罕见但有效的变化。我们将这种退化归因于平均失真:当使用 MSE 目标进行训练时,类条件流学习类内子模式的频率加权平均值,导致模型过度表示高密度模式,同时系统地忽略低密度模式。为了解决这个问题,我们提出了 SubFlow,即子模式条件流匹配,它通过语义聚类将每个类分解为细粒度子模式并根据子模式索引调节流,从而消除平均失真。每个条件子分布近似单峰,因此学习流准确地针对各个模式,没有平均失真,在单个推理步骤中恢复全模式覆盖。至关重要的是,SubFlow 完全是即插即用的:它可以无缝集成到现有的一步模型(例如 MeanFlow 和 Shortcut 模型)中,无需任何架构修改。在 ImageNet-256 上进行的大量实验表明,SubFlow 在保持有竞争力的图像质量 (FID) 的同时,在生成多样性 (Recall) 方面取得了巨大的进步,证实了其在不同的一步生成框架中的广泛适用性。项目页面:https://yexionglin.github.io/subflow。