论文

超越二元编辑:基于对抗子空间对齐的鲁棒多模态知识编辑

Beyond Binary Edits Robust Multimodal Knowledge Editing with Adversarial Subspace Alignment

模型训练模型编辑与遗忘

摘要

多模态大语言模型(MLLM)需要高效的机制来更新知识而不损害既有能力。虽然内在多模态知识编辑实现了很强的可靠性与局部性,但其泛化性常常有限,无法将编辑传播到语义等价的视觉与语言变体上。这一问题源于缺乏显式语义监督、编辑范围僵化,以及在高维多模态空间中偏向锚定个别样本。我们通过显式瞄准泛化性来解决鲁棒的内在多模态知识编辑问题。我们以知识单元(knowledge unit)形式化鲁棒性——将语义等价的多模态输入归为一组,并把泛化定义为单元内预测的一致性。为暴露脆弱的语义区域,我们提出潜在对抗鲁棒化(LAR),在联合潜在空间中生成对抗性但语义连贯的变体。我们进一步提出秩约束子空间学习(RCSL),通过基于奇异值的目标在编辑层强制对抗表征的低秩对齐。大量分析从实证上证明了ASAM的有效性。

超越二元编辑:基于对抗子空间对齐的鲁棒多模态知识编辑:论文配图
图1:ASAM的整体框架,由两个关键模块组成。 ❶ 拉尔。给定多模态输入,LAR 沿着 LLM 引导的梯度扰动输入嵌入,以生成语义一致的改写。 ❷ RCSL。使用这些改写,RCSL 应用基于 SVD 的子空间学习来对齐编辑层输出,从而强制跨变体的语义一致性。