论文

身份存在的地方:多模式中本地化、免保留的身份遗忘 大语言模型

Where Identity Lives: Localized, Retain-Free Identity Unlearning in Multimodal Large Language Models

模型训练模型编辑与遗忘

摘要

部署后通常需要从多模式 大语言模型 (MLLM) 中删除特定个人的信息,但现有方法依赖于保留集,而保留集在此时最难获得,并且重建它会重新创建取消学习旨在消除的隐私暴露。单独的遗忘会损害共享的视觉语言计算,损害感知。我们将无保留去学习视为本地化问题:因果追踪、权重移植和 Fisher 重叠都指向早期到中期解码器 MLP 作为存储身份信息的层,并且与其他模块系列不同,可以在不显着破坏视觉的情况下进行修改。我们将其转化为路径感知视觉属性锚定(PAVA),它将更新限制在这些层上,并将遗忘损失与视觉属性锚配对,该锚通过仅从遗忘图像中提取模型自己的预遗忘答案来保留基于图像的行为。在 MLLMU-Bench 和 ReMem 上,PAVA 在仅忘记设置的方法中提供了最强的忘记保留权衡,并且与基于保留的基线保持竞争力。