SR$^2$-LoRA：类增量学习低秩适应中的自校正层间关系

具有参数高效 微调 (PEFT) 的预训练模型已展现出在类增量学习 (CIL) 方面的巨大潜力，但在使模型适应新任务时，灾难性遗忘仍然存在。在本文中，我们通过分析层间关系漂移（即学习新任务期间分层表示之间的关系逐渐破坏），提出了关于灾难性遗忘的新视角。我们从理论上表明，这种漂移的增加会降低先前学习任务的分类裕度，从而降低整体模型性能。为了解决这个问题，我们提出了 \underline{S}elf-\underline{R}ectifying inter-layer \underline{R}elation Low-Rank Adaptation~(SR$^2$-LoRA)，这是一种简单而有效的方法，通过限制层间关系漂移来减轻灾难性遗忘。具体来说，SR$^2$-LoRA 在当前任务样本上构造由先前模型和当前模型导出的关系矩阵，并对齐相应的奇异值。我们进一步从理论上表明，这种对齐方式比直接输入方式对齐方式对估计扰动表现出更大的鲁棒性。对标准 CIL 基准的大量实验表明，SR$^2$-LoRA 可以有效减轻灾难性遗忘，并且随着任务数量的增加，其优势变得更加明显。代码可在 \href{https://github.com/FqWan24/SR-2-LoRA}{repository} 中找到。