PEFT-Arena：从稳定性-塑性角度理解参数高效微调

参数高效微调（PEFT）已成为适应 大语言模型 的标准方法，但评估很大程度上强调下游准确性，而忽视了预训练能力的保留。我们认为 PEFT 应该通过稳定性-可塑性困境来评估：目标任务适应和抗遗忘之间的权衡。我们推出 PEFT-Arena，这是一个联合衡量下游绩效和一般能力保留的基准。在各种方法中，我们发现了不同的稳定性-可塑性特征；在可比较的参数预算下，正交微调实现了最有利的帕累托前沿。为了解释这些差异，我们从两个几何角度分析 PEFT 更新。在权重空间中，谱分析揭示了参数化如何与预训练的奇异值结构相互作用。在激活空间中，保留指标显示微调是否保留或扭曲了一般能力表示，而遗忘与非等距表示扭曲有关。最后，分析表明最终的 SFT 检查点通常会超出更好的目标保留操作点。受此启发，我们提出了通过路径倒带进行事后改进的案例研究。