小语言模型顺序个性化的持续学习：稳定性监测分析

人们越来越多地考虑将小语言模型 (SLM) 部署在笔记本电脑等边缘设备上，从而实现私有、低延迟和本地个性化的应用程序。然而，个性化要求模型随着时间的推移适应不断变化的用户或特定任务的数据，将它们置于持续学习的环境中。这会带来灾难性遗忘的风险，学习新信息会降低之前学习的任务或更广泛的模型功能的性能。最近的基准测试（例如 TRACE）表明，连续的 微调 会显着降低对齐的 大语言模型 的一般能力。在这项工作中，我们提出了一项针对 SLM 的顺序 LoRA 个性化的研究。我们在每个适应阶段后保存模型检查点，并根据当前任务、之前看到的任务和固定参考集对其进行评估。这种检查点级协议使我们能够监控任务性能、遗忘和参考集随时间的漂移。我们证明，轻量级参考集分布式诊断可以揭示 SLM 的顺序 LoRA 个性化过程中特定于模型的不稳定模式，包括仅任务级指标隐藏有害适应的情况。我们希望这能够突出在持续学习环境中监测 SLM 稳定性的新研究途径。