答案分布轨迹：LLM 推理的随机动力学观点

思想链推理提供了模型输入和最终答案之间的结构化计算。然而，它通常是通过端点准确性来评估的，而忽略了达到该答案所采取的路径。一项新兴的工作利用熵剖面来解决这一限制，它跟踪推理过程中不确定性如何演变，但没有揭示哪些竞争假设解释了这种不确定性。我们引入了答案分布轨迹，这是一种受随机动力学启发的表示形式，可在推理展开时跟踪模型对答案的完整预测分布。作为比端点和熵摘要更严格的表示，答案分布轨迹使我们能够通过跨越探索、修订、运动和承诺的动态推理轮廓来表征轨迹，并区分推理成功和失败的不同动态机制。在十六个开放权重语言模型和四个推理基准中，我们表明具有相同端点和相似熵剖面的迹线可以表现出截然不同的推理动态。我们进一步发现模型和任务内部以及模型和任务之间的这些动态存在显着差异，不同的目标有利于不同的动态配置文件。此外，我们表明训练和推理选择系统地重塑了这些概况。我们的结果表明，答案分布轨迹为分析和评估大语言模型推理的动态提供了丰富的框架。