权重调整梯度揭示了 LLM 中的参数重要性和故障模式

了解哪些参数对 大语言模型 (LLM) 有影响对于提高其效率、可靠性和可解释性至关重要。我们引入了权重调整梯度（WAG），这是一种简单而有效的估计参数重要性的方法，它明确地捕获模型权重和一阶梯度信息之间的相互作用，并识别不成比例地影响模型行为的参数，例如导致 LLM 中崩溃现象的参数。在一系列模型和设置中，我们表明 WAG 表面了一个微小但关键的参数子集（<百万分之 0.5 或模型大小的 0.00005%），其修改会导致性能急剧下降，表明一种新颖的故障模式。这些发现还揭示了之前未充分探索的权重和梯度之间的相互作用，表明仅通过任一信号都无法完全理解参数重要性。我们展示了 WAG 在多种不同应用中的实用性，例如专家混合 (MoE) 架构中的专家分配、有针对性的取消学习、混合精度量化以及用于知识编辑的层选择。总之，WAG可以作为分析、调试和控制LLM的统一方法，并为原则性参数级解释开辟新的方向。