将线性行为提炼为非线性 微调 以实现有效的任务算法

任务向量组合已成为编辑预训练模型的一种有前途的范例，可以通过加法合并模型并通过减法取消学习。预训练模型（线性 微调）的切线空间中的 微调 已被证明是有效的，因为它生成的任务向量自然解开且抗干扰。然而，线性化模型在训练期间的表达能力有限，并且在推理时产生较高的计算成本，这限制了它们的实际适用性。在这项工作中，我们弥合了线性和标准非线性 微调 之间的差距。我们表明，权重扰动的线性度（参数空间中定义的属性）可以在训练期间通过激活空间中的约束来强制执行。具体来说，我们将曲率正则化线性化教师的隐藏表示提取为通过传统 微调 训练的非线性学生。我们发现，所得模型继承了任务算术线性化模型的关键属性，能够有效组合任务向量，并在视觉和语言基准上实现强大的性能，而不会产生任何推理时间开销。