通过偏好优化进行可推广的终身模型编辑

知识编辑可以快速更新大语言模型 (LLM) 中的特定事实知识，而无需完全重新训练。然而，更现实的场景需要一个终身框架来处理持续更新而不是一次性修改。在这种情况下，现有的编辑方法通常会过度适应目标提示，从而显着降低所编辑知识的泛化性和模型的一般能力。为了解决这个问题，我们提出了 GLIME（通用终身模型编辑），它将知识编辑与生成行为的偏好优化结合起来。 GLIME 进一步结合了基于重播的编辑和梯度约束，以保留先前编辑的知识。实验结果表明，GLIME 显着提高了终身编辑环境中的知识泛化，同时保持了编辑性能和通用能力。