论文
通过背景故事上的多步推理编辑知识,而不仅是事实
Edit Knowledge, Not Just Facts via Multi-Step Reasoning over Background Stories
摘要
使人工智能系统,特别是大语言模型,能够集成新知识并在推理过程中灵活应用它仍然是一个核心挑战。现有的知识编辑方法强调原子事实,提高事实回忆,但往往无法将新信息整合到可跨上下文使用的连贯框架中。在这项工作中,我们认为知识内化从根本上来说是一个推理问题,而不是一个记忆问题。因此,应该在新信息有助于解决任务的情况下训练模型,与预先存在的知识相结合,并通过多步骤推理进行练习。基于这一见解,我们提出了基于三个原则的培训策略。首先,新知识作为连贯的背景故事引入,将新事实置于背景中并解释它们与现有知识的关系。其次,使用自行生成的多跳问题来训练模型,这些问题需要涉及新信息的多步骤推理。第三,训练是通过知识蒸馏来完成的,迫使学生模型在不接触新信息的情况下内化教师的推理行为。实验表明,用这种策略训练的模型在推理过程中有效地利用了新获得的知识,并在需要结合多个新事实的挑战性问题上取得了显着的性能。
