论文

KARU:以知识关联而非整段回答为目标进行强化遗忘

What Should LLMs Forget: Reinforcement Unlearning of Knowledge Associations

模型训练强化学习奖励建模与过程监督模型编辑与遗忘

摘要

大语言模型在预训练中获得大量事实知识,其中可能包含敏感、私有或受版权保护的信息,因此需要选择性遗忘特定知识、同时保留通用能力的方法。然而,现有方法通常优化整段回答,没有明确识别待遗忘知识,导致遗忘粗糙且难控制。我们重新审视遗忘目标,提出知识关联(KA):描述查询上下文与目标知识之间的关联,并以相应条件预测分布具体表示,将其作为遗忘的基本目标。在此基础上,我们提出知识关联强化遗忘(KARU),一个抑制应遗忘关联、保留应保留关联的统一强化学习框架。框架从KA表述推导出互补机制:构造token级奖励以提供更细粒度遗忘监督;施加分布级正则以精确抑制知识;以及按接近程度采样保留数据,以缓解附带能力损伤。在多种LLM和代表基准上,KARU相较既有基线持续提高遗忘效果,同时维持相近的知识保留表现与通用效用。

KARU:以知识关联而非整段回答为目标进行强化遗忘:论文配图
图2:KARU流程概览。以KA为遗忘目标,KARU为遗忘与保留设计互补优化机制:(i)KATR提供细粒度遗忘监督;(ii)LF促进分布层面的知识移除;(iii)ANS强化对易受影响的保留样本的知识保留。