Merge++：通过无数据检查点反转进行通用合并细化

模型合并将经过微调的专家整合到一个多任务模型中，无需重新训练。所有现有的无数据方法完全在权重空间中解决这个问题。仅限于参数算术，这些方法从不观察每个专家的行为，而信号只能通过前向评估出现。访问此行为信号需要输入进行评估，这是无数据设置所禁止的。我们提出了 Merge++，这是一种事后方法，通过反转专家检查点来合成任务代表图像，然后使用这些图像将专家知识提炼到合并模型中来解决这个问题。除了检查点本身之外，Merge++ 不需要任何其他数据。它普遍适用于合并算法，并作为独立于底层权重空间方法的补充细化阶段运行。该方法不断改进合并算法，从简单的任务算术到最先进的谱方法，平均增益为 +2 到 +8 点，在单个配置上最高可达 +25.9。