思想的谱几何:相变、指令反转、词元级 动力学以及 Transformer 如何推理的完美正确性预测
The Spectral Geometry of Thought: Phase Transitions, Instruction Reversal, Token-Level Dynamics, and Perfect Correctness Prediction in How Transformers Reason
摘要
我们发现,当进行推理与事实回忆时,大语言模型 在其隐藏的激活空间中表现出 \emph{谱相变}。通过对涵盖 \textbf{5 个架构家族}(Qwen、Pythia、Phi、Llama、DeepSeek-R1)的 \textbf{11 个模型}进行系统谱分析,我们确定了 \textbf{7} 个核心现象: (1)~\textbf{推理谱压缩} - 9/11 模型的推理 $α$ 显着降低 ($p < 0.05$),在更强的模型中效果更大; (2)~\textbf{指令调整谱反转}——基础模型显示推理 $α< $factual $α$,而指令调整模型则反转了这种关系; (3)~\textbf{架构相关生成分类法}——提示响应将分区划分为扩展、压缩和平衡状态; (4)~\textbf{光谱缩放定律} -- $α_\text{推理} \propto -0.074 \ln N$ 跨越 4 个 Qwen 基础模型 ($R^2 = 0.46$); (5)~\textbf{词元级 Spectral Cascade}——每个 token 的 alpha 跟踪揭示了局部同步随着层距离呈指数衰减,并且推理能力比实际任务弱; (6)~\textbf{推理步骤谱标点}——相变签名与推理步骤边界对齐; (7)~\textbf{频谱正确性预测}——在生成最终答案之前,在预测正确性 \emph{之前},频谱 $α$ 单独实现了 AUC $= 1.000$(Qwen2.5-7B,后期层),并且在 6 个模型中实现了平均 AUC $= 0.893$。这些发现共同在 Transformer 中建立了一个全面的\emph{推理谱理论},揭示了思维的几何学在方向上是普遍的,在动力学上是特定于体系结构的,并且是结果的预测。