参数重要性不是静态的：受监督的 微调 不断发展的参数隔离

大语言模型 的监督 微调 (SFT) 经常遭受任务干扰和灾难性遗忘。最近的方法通过在训练期间隔离任务关键参数来缓解这个问题。然而，这些方法代表了动态问题的静态解决方案，假设参数重要性一旦确定就保持固定。在这项工作中，我们凭经验证明参数重要性在训练过程中表现出时间漂移。为了解决这个问题，我们提出了演进参数隔离（EPI），这是一个 微调 框架，可根据参数重要性的在线估计来调整隔离决策。 EPI 没有冻结固定的参数子集，而是使用基于梯度的信号定期更新隔离掩模，使模型能够保护新出现的关键任务参数，同时释放过时的参数以恢复可塑性。对各种多任务基准的实验表明，与静态隔离和标准 微调 相比，EPI 持续减少干扰和遗忘，同时提高整体泛化能力。我们的分析强调了将隔离机制与学习不同能力的不断发展的动态同步的必要性。