CRAFT：基于遗忘意识干预的持续学习适应

大语言模型（LLM）可以通过微调获得新的能力，但持续的适应往往会导致灾难性的遗忘。我们提出了 CRAFT，一种持续学习框架，通过学习对隐藏表示的低秩干预来避免更新模型权重。 CRAFT 分三个阶段进行：首先根据输出分布差异将每个任务路由到一组相似的任务；然后，它使用 Kullback-Leibler (KL) 散度针对群体的先前状态来微调模型，这直接控制遗忘并确定收敛；最后，它使用相同的 KL 信号将更新任务的干预合并到共享表示中。此设计通过单个基于 KL 的目标来统一路由、正则化和合并。与跨多个基准和模型规模的基于 LoRA 的强大方法相比，CRAFT 提高了整体性能并减少了遗忘，同时保持了任务排序的稳健性。这些结果表明，在输出空间分歧的指导下控制表示空间的适应，为 LLM 中的持续学习提供了一种可扩展且有原则的方法。