大语言模型 归因引导的持续学习

大语言模型 (LLM) 在持续学习中经常遭受灾难性遗忘：在顺序学习新任务后，他们在早期任务上表现较差。现有方法通过数据重放、参数冻结或正则化来减轻灾难性遗忘。然而，这些方法缺乏对 LLM 机制的理解，无法区分哪些参数存储了先前任务的重要知识以及哪些参数可以为新任务更新。为了解决这个问题，我们提出了归因引导的连续 微调 框架，该框架利用分层相关性传播（LRP）根据 LLM 的内部计算过程来估计参数重要性。在持续学习过程中，对先前任务至关重要的参数被限制接收较小的更新，而不太相关的参数仍然可用于学习新任务。大量实验表明，与基线方法相比，我们的方法减少了灾难性遗忘，同时保留了对新任务的适应性，突出了连续 微调 或 LLM 的机械归因的价值。