协同自适应多任务 LoRA：域参与的传输感知、无标签控制

微调 同时在多个域上使用单个低秩适配器是多任务学习：域必须共同学习，并且它们如何共享适配器决定它们是否互相帮助或伤害。最高效的 微调 管道会忽略这一点，并在固定、均匀的混合物上进行训练，从而留下两个未回答的耦合问题：每个域应该参与多少，以及考虑到某些域积极传输而另一些域干扰，哪些域应该共同训练？我们证明这两个答案都可以廉价地读取并且无需标签。当前共享适配器在一个小的未标记探针上的前向传递会产生每个域的能力信号，其水平跟踪剩余空间，其轨迹跟踪学习速度；这些探针表示的漂移产生了一个有符号的跨域亲和力，可以预测成对转移。我们将两者合并到 CoDA 中，这是一个协同自适应控制器，它在单纯形上求解一个小型熵正则化二次规划，以设置每个域的参与（联合其损失权重及其在采样数据中的份额），奖励高净空、仍在学习、相互协同的域并抑制干扰域。该控制器是仅前向的，不添加可训练参数，并且包装任何多任务 LoRA 管道。在五个异构域和两个骨干网中，CoDA 在使用一半数据的同时提高了均匀混合、学习混合、梯度手术多任务优化器和在线数据选择的平均值，并降低了跨域梯度冲突。我们证明能力信号跟踪领域风险，参与程序具有通过收缩达到的唯一固定点，并且其解决方案执行转移感知注水；分析、消融和对照证实了每项主张。