SAFE-Merge：具有一般知识保存的无数据连续模型合并

无数据的连续模型合并必须包含一系列专用模型，同时保留预先训练的一般知识和先前获取的任务，而无需访问任务数据。现有方法主要通过抑制下游任务之间的干扰来合并任务更新；虽然这保护了之前获得的任务，但它忽视了预训练知识本身的安全性，其侵蚀会降低对保留分布的泛化能力，并削弱未来任务获取的基础。我们提出了 SAFE-Merge，一个简单的无数据连续合并框架，它首先决定哪些参数更新可以安全保留，然后恢复通过屏蔽丢失的任务信息。具体来说，为了确保安全，风险感知稀疏屏蔽选择携带特定于任务的信息的参数更新，同时对一般知识构成低风险。然后，屏蔽低秩恢复仅使用相同的保留参数更新来补偿丢失的任务信息，同时保持所有屏蔽参数严格不变。最后，组合更新被融合到主干中，不会产生额外的推理成本。在视觉和语言基准测试中，SAFE-Merge 始终获得最佳 H 分数。在较长的 CLIP 任务序列上，它比 NUFILT 显着提高了 H 分数，同时还实现了最高的准确度。