可调谐 MAGMAX：用于持续学习的偏好感知模型合并

持续学习（CL）旨在针对多个任务顺序训练模型，同时减少对先前学到的知识的灾难性遗忘。大型预训练模型 (LPM) 和模型合并技术（例如 MAGMAX）的最新进展已经通过结合特定于任务的参数展示了有效的 CL 性能。然而，现有的方法主要关注所有任务的平均性能，并没有充分解决如何构建适应不同部署环境或不同用户偏好的模型。本文提出了一种模型合并框架，称为 Tunable MAGMAX，它能够对 CL 中的任务特定性能进行偏好感知控制。我们的方法引入了一个偏好向量，它控制模型合并期间从每个任务向量中选择的元素数量，使我们能够根据部署需求调整合并模型的性能。我们进一步提出了一种通过利用 模型训练 任务中的少量目标环境数据和数据集来自动构建适当偏好向量的方法，从而消除了手动指定的需要。 CL 基准任务的实验结果表明，Tunable MAGMAX 有效控制任务性能，并成功地将合并模型适应各种目标环境。所提出的 Tunable MAGMAX 实现了比基线方法优越或相当的性能，使其成为将 CL 模型部署到每个任务性能偏好不同的各种环境的实用解决方案。