ReasoningFlow：用于理解 LLM 推理轨迹的话语结构

大型推理模型（LRM）产生具有非线性结构的推理轨迹，例如回溯和自校正，这使得推理过程的评估和监控变得复杂。我们引入 ReasoningFlow，这是一个将 LRM 推理轨迹的话语结构捕获为细粒度有向无环图 (DAG) 的框架。我们通过仔细手动注释 31 条迹线（2.1k 步骤）来开发和验证我们的注释模式，实现注释者间的高度一致性，然后扩展到跨越三个任务（数学、科学、论证）和五个模型（Qwen2.5-32B-Inst、QwQ-32B、DeepSeek-V3、DeepSeek-R1、 GPT-oss-120B）。通过分析 ReasoningFlow 图，我们发现：（1）LRM 表现出结构相似的痕迹，尽管是通过不同的基础模型和潜在不重叠的 后训练 数据进行训练的。 (2) ReasoningFlow揭示了多种细粒度的推理行为（例如，本地验证、自我反思和假设），可用于更好的推理跟踪可监控性。 (3) 在 LRM 中，大多数错误步骤并不用于得出最终答案。 (4)步骤之间的机械因果依赖关系不能反映语言层面的话语结构。我们在以下位置发布数据集和代码：https://github.com/jinulee-v/reasoningflow。