数学应用题求解的四阶段分解与大模型推理的机制脆弱性

大语言模型能高准确率解决小学数学应用题，却可能因插入一句无关从句而表现崩溃。我们用机制解释调和这两种观察，显示模型内部计算分解为四阶段顺序流水线：模式抽象、运算规划、操作数绑定和计算。各阶段在可识别的层区间产生不同中间表示。用同一框架诊断干扰导致的失败，我们将损坏定位到单一的运算规划阶段；该阶段由一组注意力头实现，其因果作用通过双向验证确认。我们由此提供对大模型数学应用题推理及其受干扰失败的机制解释。