面向MLLM遗忘的零空间约束对比视觉遗忘

机器遗忘的核心挑战是在目标知识移除与非目标知识保留之间取得平衡。在多模态大语言模型（MLLM）语境下挑战更甚：知识进一步分为紧密交织的视觉与文本模态。本文提出MLLM遗忘方法：在遗忘目标视觉知识的同时保留非目标视觉知识与全部文本知识。具体地，我们冻结LLM骨干、通过微调视觉模块实现遗忘。首先提出对比视觉遗忘（CVF）机制，把目标视觉知识与保留视觉知识分离，引导目标视觉概念的表征走向特征空间的合适区域。其次识别与保留知识关联的零空间，把遗忘过程约束在该零空间内，从而显著缓解知识保留的退化。第三，超越静态遗忘场景，把方法扩展到遗忘请求顺序到来的持续遗忘。跨多样基准的大量实验证明该方法在有效遗忘与鲁棒知识保留之间取得强平衡。