剖析大语言模型推理的失败动力学

大语言模型（LLM）通过延长的推理时深思取得强大性能，但其推理失败如何产生仍知之甚少。通过分析模型生成的推理轨迹，我们发现错误并非均匀分布，而是常常起源于少数早期转折点，此后推理虽然保持局部连贯，却在整体上偏离正确。这些转折与词元级熵的局部尖峰同时出现，且从同一中间状态出发的其他续写仍可能导向正确解答。基于这些观察，我们提出GUARD，一个有针对性的推理时框架，利用不确定性信号探测并重定向关键转折。跨多个基准的实证评估证实，由这些失败动力学引导的干预能带来更可靠的推理结果。我们的发现凸显了理解推理何时以及如何首次偏离的重要性，与现有聚焦于扩展推理时计算的方法形成互补。