论文

FlowErase-OPD:通过流匹配模型中的锚定 同策略 蒸馏 进行多概念擦除

FlowErase-OPD: Multi-Concept Erasure via Anchored On-Policy Distillation in Flow Matching Models

模型训练模型编辑与遗忘

摘要

流匹配模型的最新进展极大地提高了文本到图像生成的质量,但由于它们可能生成有害或不良内容,因此也引发了越来越多的安全问题。现有的流匹配模型概念擦除方法主要集中于删除单个概念,而同时有效地擦除多个概念仍然具​​有挑战性。我们提出了 FlowErase-OPD,一个基于 同策略 蒸馏 (OPD) 的多概念擦除框架。我们的方法首先将多个单概念擦除模型提炼为统一的 LoRA 模块,并引入锚定多教师 蒸馏 (AMTD),其中包含保留教师以减轻概念擦除和生成能力保留之间的权衡。为了进一步提高多个擦除目标的协调性,我们开发了自适应保留控制(ARC),它动态调整每个擦除教师的采样频率和损失权重,以及整个训练过程中擦除和保留教师的相对贡献。针对裸体、物体和艺术风格擦除的大量实验表明,FlowErase-OPD 始终如一地改善了擦除效果、图像质量和语义对齐之间的权衡,在不同的多概念擦除设置中实现了最先进的性能。此外,所得模型对对抗性攻击表现出很强的鲁棒性。这些结果凸显了 同策略 蒸馏 作为流量匹配模型中安全可控生成的原则框架的潜力。