叠加的涌现阶段：从部分表示到完全表示

大语言模型被认为是通过模型宽度给定维度的隐藏空间中的向量来表示特征。叠加，通过让表示向量重叠来表示比宽度更多的特征，是表示向量如何组织的主要解释。然而，当特征数量和宽度很大时，模型宽度和数据统计如何确定表示向量的配置以及由此产生的损失仍然不太清楚。在这里，我们表明，在 Anthropic 的叠加玩具模型中，增加宽度会驱动从部分表示阶段（其中只有一部分特征接收可观的表示向量，而其余特征消失）到完全表示阶段（其中每个特征都被表示）的连续相转变。我们的理论通过部分随机投影近似预测，并且实验证实，临界宽度随着活动特征的数量线性增长，直至达到对数因子。损失缩放在过渡过程中发生变化：低于临界宽度，损失随着活动特征的数量线性增长，并且弱依赖于数据统计设置的形式的宽度；在其之上，损耗随着活动特征的数量大约呈二次方增长，并与宽度成反比衰减。非均匀触发概率会延迟转换并降低损失，因为更频繁的特征会占用更多空间。我们的结果提供了模型宽度和数据统计如何共同塑造表示和损失的说明，这是理解大型模型中表示缩放的一步。