CAMFT：大型语言模型的冲突感知可合并微调

模型合并已成为将多个特定于任务的功能集成到单个大型语言模型中的有前途的范例。然而，现有方法主要侧重于独立微调模型的事后处理，忽略了训练阶段本身如何影响跨任务兼容性。微调后解决参数冲突本质上是次优的。为了解决这个问题，我们提出了 CAMFT，一种冲突感知可合并微调方法，使任务适应既高效又具有合并感知能力。 CAMFT将合并性视为微调过程中形成的属性，而不仅仅是微调后要解决的问题。通过指导每个任务以较低的跨任务冲突更新稀疏坐标，CAMFT 生成的任务更新可有效训练并且更兼容下游模型合并。大量实验表明，CAMFT 在多任务合并场景中优于标准微调基线。代码可从此 https URL 获取。