作为吸引子动力学的推理：通过吉布斯加权能量最小化进行潜在记忆检索

大语言模型 (LLM) 传统上被视为自回归生成器。然而，从集体计算的角度来看，它们充当高维密集联想记忆，将复杂的推理模式存储为潜在吸引子。在这项工作中，我们研究了数学推理的能量景观。我们假设正确的推理链对应于模型输出分布中深、宽的吸引子盆地（“平坦最小值”），而幻觉则表现为尖锐、不稳定的局部最小值。为了利用这种几何形状，我们引入了一种基于轨迹谱熵吉布斯度量的检索机制。通过对多个推理路径进行采样并通过其逆能量对其进行加权（$P \propto e^{-βE}$），我们近似联想记忆的平衡分布，有效地将系统“放松”为鲁棒解决方案。根据经验，这种受物理启发的机制将 GSM8K 上的 Microsoft Phi-3.5 性能提高了 5.38%（84.7% 到 90.1%），这表明推理可以更好地建模为吸引子盆地的动态沉降过程，而不是贪婪的下一个词元预测。