ReForge：使用锚正则回归细化合并模型

模型合并旨在将多个特定于任务的专家模型组合成一个模型，而无需联合再训练，从而在数据访问或计算预算有限时为多任务学习提供实用的替代方案。现有的模型合并方法很少利用强合并模型作为先验来进一步改进。为了解决这个限制，我们提出了 ReForge，这是一个双层优化框架，它将模块级细化表述为具有以锚为中心的先验的贝叶斯线性回归。内部水平根据未标记的校准激活产生闭合形式的 MAP 估计。外层使用贝叶斯优化，使用保留的验证数据联合选择异构正则化强度和装配规模。此外，我们开发了 ReForge 的无数据变体，用任务向量 Gram 取代激活统计数据，从而无需校准示例。在广泛的基准测试中，包括视觉中多达 20 项任务的合并和语言中多达 5 项任务的合并，ReForge 始终优于所有评估的即插即用锚点基线（例如 TA、WUDI-Merging 和 TSV）。在 20 项任务 ViT-B/32 上，ReForge 将最强的评估基线 ISO-CTS 改进，在数据辅助设置中从 77.6% 提高到 82.8%，在无数据设置中提高到 81.5%。在八项任务 ViT-L/14 上，数据辅助变体的平均准确率达到 95.1%，而单个任务专家的平均准确率达到 95.8%。我们的源代码很快就会发布。