论文

GeoFaith:忠实思想链的时空双重视角

GeoFaith: A Spatio-Temporal Dual View of Faithful Chain-of-Thought

模型训练奖励建模与过程监督

摘要

思想链 (CoT) 推理已经推进了 大语言模型 (LLM),但基于结果的监督导致普遍的事后合理化,产生看似合理但不忠实的推理链。大多数先前的 忠实性 评估方法要么不可扩展,要么昂贵,要么不可靠。我们提出了 GeoFaith,一个时空框架,利用潜在的几何结构和熵动力学来诊断和执行忠实推理。我们开发了一个可扩展的引导管道,将跨四个领域的步骤级注释从 1k 扩展到 20k 样本,训练在标准基准上优于 GPT-5 的 8B 忠实性 检测器,并设计一个 忠实性 感知强化学习框架,共同优化结果正确性、过程 忠实性 和轨迹一致性。实验表明,所提出的方法在 忠实性 检测和下游推理方面均实现了卓越的性能,在不牺牲准确性的情况下生成更短、更可解释的链。我们的代码将公开发布。