空白空间：扩散模型中概念擦除的交叉注意力稀疏性

从文本到图像扩散模型中删除特定概念对于避免生成受版权保护的露骨内容至关重要。封闭式概念擦除方法为基于反向传播的技术提供了一种快速替代方法，但当从较小的模型（如稳定扩散 1.5）扩展到较大的模型（如稳定扩散 XL）时，它们的效率会降低。为了在这些更大规模的架构中保持擦除有效性，我们提出了 SParse 基于交叉注意力的概念擦除（SPACE）。 SPACE 通过封闭式更新迭代修改模型的交叉注意力参数，共同诱导稀疏性并删除目标概念。通过将概念映射集中到较低维的子空间，与密集基线相比，SPACE 实现了卓越的擦除功效。广泛的实验结果表明，针对对抗性提示的擦除有效性和鲁棒性有所提高。此外，SPACE实现了80%-90%的交叉注意力稀疏性，将保存修改后的参数的存储需求降低了70%，展示了其内存效率。