优先对齐的 LoRA 合并：保留子空间覆盖并解决方向各向异性

合并多个低秩适应 (LoRA) 模块对于构建通用系统很有希望，但也具有挑战性，因为 LoRA 更新方向跨越不同的子空间并且贡献不均匀。当天真地合并时，这种不匹配可能会削弱对某些任务损失最关键的方向，同时过分强调相对不太重要的方向，最终降低模型忠实表示所有任务的能力。我们通过两个角度重新审视这个问题：子空间覆盖，它捕获 LoRA 方向覆盖不同表征方向的广泛程度；以及各向异性，它反映了这些方向上影响力的不平衡。我们提出 TARA-Merging（任务秩各向异性对齐），它使用偏好加权交叉熵伪损失来对齐合并权重，同时保留与任务相关的 LoRA 子空间。这确保了广泛的子空间覆盖并通过方向重新加权减轻各向异性。在八个视觉和六个 NLI 基准中，TARA-Merging 始终优于普通和 LoRA 感知基线，表现出强大的鲁棒性和泛化性，并强调了 LoRA 合并中解决子空间覆盖和各向异性的重要性。