TORA：通过LoRA低秩结构选择持续学习的知识迁移路径

文本分类中的持续学习（CL）面临两个关键挑战：灾难性遗忘和跨顺序任务的负迁移。 LoRA 等参数高效微调 (PEFT) 方法通过学习模型参数的低秩更新来实现高效自适应。然而，这些紧凑的表示通常是单独训练的，限制了它们在相关任务中的重用。我们引入了面向任务的秩自适应（TORA），这是一种几何路由框架，利用 LoRA 适配器的低秩结构来决定是从最兼容的专家（Boosting）转移知识还是基于结构相似性隔离新任务（Shielding）。通过 15 个不同的文本分类基准进行评估，TORA 始终避免有害的路由决策：兼容任务超出其孤立性能，同时减少训练时间，并且结构上相距较远的任务免受干扰，且不会损失准确性。 TORA 具有单一几何阈值且不依赖于任务标识或预定义序列，为顺序文本分类系统中的动态适配器路由提供了一种简单有效的方法。