理解并强制实现任务算术中的权重解耦

任务算术（Task arithmetic）提供了一种高效、无需训练的预训练模型编辑方式，但其成功缺乏根本性的理论解释。现有的“权重解耦”概念描述了任务合并互不干扰的理想结果，却未揭示其深层原因。关键在于，预训练模型（$θ_0$）或任务向量（$τ_t$）的哪些内在性质使这种解耦成为可能，仍缺乏充分探索。本文引入任务-特征特化（TFS），即模型为不同任务分配不同内部特征的能力，作为根本原理。我们首先证明TFS是权重解耦的充分条件。更重要的是，我们发现TFS还会产生一个可观测的几何结果：权重向量正交。这使TFS成为期望的功能结果（解耦）与可测量的几何属性（正交性）的共同原因。这一关系为我们的方法提供了关键洞察：由于抽象的TFS性质难以直接强制，我们可以转而通过塑造其具体的几何结果——正交性——来促进权重解耦。因此，我们提出OrthoReg，一种简单有效的正则化方法，在微调期间对构成$τ_t$的权重更新（$ΔW$）主动强制内部正交结构。并从理论上证明OrthoReg促进解耦。大量实验表明，OrthoReg持续且显著地提升各种任务算术方法的性能。代码发布于 https://github.com/RL-MIND/OrthoReg。