通过输出空间投影进行模型合并

模型合并将微调的检查点合并到单个多任务模型中，无需重新训练。现有的方法——例如任务算术、模型汤、TIES 和 DARE——在计算上是高效的并且在经验上是成功的，但依赖于启发式设计选择并且缺乏形式的最优性保证。我们证明，合并可以表示为残差更新上的凸二次程序，产生使用校准输入和微调模型输出最小化平方输出校准目标的权重，并将现有方法纳入特殊情况。我们的框架产生封闭式诊断（由所选基础捕获的剩余能量的比例），仅使用校准集来预测下游合并质量。根据经验，QP 在单层设置中匹配或优于现有方法，并且我们描述了最佳基何时比更便宜的对角线 QP 提供显着增益。我们通过顺序逐层算法扩展到多层合并，并在语言和视觉基准测试中展示了一致的增益。