单层解释全部：理解 大语言模型 中的大规模激活

我们研究了 大语言模型 (LLM) 中大规模激活的起源，并确定了一个名为 \textbf{Massive Emergence Layer (ME Layer)} 的特定层，该层在整个模型系列中一致观察到，其中大规模激活首先出现，然后通过残差连接传播到更深的层。我们表明，在 ME 层内，RMSNorm 和 FFN 参数共同促成了大规模激活的出现。一旦形成，大量的激活词元表示在各层之间基本上保持不变，从而减少了传递给注意力模块的隐藏表示的多样性。受此限制的启发，我们提出了一种简单有效的方法来降低大规模激活词元的刚性。我们的方法在 无需训练 和 微调 设置中持续提高 LLM 跨多个任务的性能，包括指令遵循和数学推理。此外，我们表明，我们的方法通过有选择地削弱注意力下沉的影响来减轻注意力下沉，在隐藏状态层面阐明它们的起源，并为有原则的缓解策略提供新的启示。