论文

通过背景故事上的多步推理编辑知识,而不仅是事实

Edit Knowledge, Not Just Facts via Multi-Step Reasoning over Background Stories

模型训练模型编辑与遗忘

摘要

使人工智能系统,特别是大语言模型,能够集成新知识并在推理过程中灵活应用它仍然是一个核心挑战。现有的知识编辑方法强调原子事实,提高事实回忆,但往往无法将新信息整合到可跨上下文使用的连贯框架中。在这项工作中,我们认为知识内化从根本上来说是一个推理问题,而不是一个记忆问题。因此,应该在新信息有助于解决任务的情况下训练模型,与预先存在的知识相结合,并通过多步骤推理进行练习。基于这一见解,我们提出了基于三个原则的培训策略。首先,新知识作为连贯的背景故事引入,将新事实置于背景中并解释它们与现有知识的关系。其次,使用自行生成的多跳问题来训练模型,这些问题需要涉及新信息的多步骤推理。第三,训练是通过知识蒸馏来完成的,迫使学生模型在不接触新信息的情况下内化教师的推理行为。实验表明,用这种策略训练的模型在推理过程中有效地利用了新获得的知识,并在需要结合多个新事实的挑战性问题上取得了显着的性能。

通过背景故事上的多步推理编辑知识,而不仅是事实
图2:所提出的知识内化框架概览。新事实(蓝色)作为一个连贯的背景故事被引入(步骤 1)。然后,模型生成并回答需要将新信息与已有知识相结合的多跳问题(步骤 2)。最后,师生训练过程将这种推理行为蒸馏到学生模型中(步骤 3),得到一个更新后的世界模型,其中新知识被密集整合,并支持灵活的多步推理。