PASTA：LLM 知识更新的释义和自我训练方法

预训练 大语言模型 (LLM) 中的知识更新仍然是一个重要的挑战。虽然持续训练提供了知识更新的潜在途径，但它仍然存在巨大的技术困难。此外，LLM 经常难以准确回答有关特定事实信息（例如新闻文章）的问题，这是研究界广泛认识到的能力限制。本文提出了 PASTA，这是一个简单但功能强大的框架，用于将新闻文章中的详细事实信息作为新知识集成到 LLM 中，其主要目标是构建能够准确回答有关该知识的问题的专用模型。我们的框架结合了数据增强、问答生成和新颖的自学习 DPO 流程，可同时实现知识覆盖和幻觉抑制。我们通过对学习参数和数据配置的系统分析，提供有效知识更新的见解。在我们对基础模型知识截止后发布的网络文章进行的实验评估中，PASTA 在保持通用语言能力的同时实现了从 0.02 到 0.82 的准确率显着提高，证明了其创建领域专业化 LLM 的有效性。