论文
算术泛化的长期延迟：当学习的表示超越行为时
The Long Delay to Arithmetic Generalization: When Learned Representations Outrun Behavior
摘要
在算法任务上训练的 Transformer 中的 Grokking 的特点是训练集拟合和突然泛化之间存在较长的延迟，但对该延迟的来源仍然知之甚少。在编码器-解码器算术模型中，我们认为这种延迟反映了对已经学习的结构的有限访问，而不是首先未能获取该结构。我们研究了单步 Collatz 预测，发现编码器在前几千个训练步骤中组织奇偶校验和残差结构，而输出精度在数万个训练步骤中仍然接近机会。因果干预支持解码器瓶颈假设。将训练有素的编码器移植到新模型中可以将 grokking 加速 2.75 倍，而移植训练有素的解码器会带来很大的伤害。冻结聚合编码器并仅重新训练解码器可以完全消除平台并产生 97.6% 的准确度，而联合训练的准确度为 86.1%。是什么让解码器的工作变得更难或更容易取决于数字表示。在 15 个基数中，那些因式分解与 Collatz 图的算法（例如基数 24）一致的精度达到 99.8%，而二进制则完全失败，因为它的表示崩溃并且永远无法恢复。基数的选择充当归纳偏差，控制解码器可以利用多少本地数字结构，从而在同一基础任务的可学习性方面产生巨大差异。