论文

你看到的错误不是你犯的错误:推理错误本地化的进度感知推理起源

The Error You See Is Not the Error You Made: Progression-aware Reasoning Origin for Reasoning Error Localization

模型推理推理验证与自校正

摘要

验证多步骤 LLM 推理需要的不仅仅是确定跟踪是否正确:有用的验证程序应该确定推理首先出错的位置。然而,现有的整体方法提供的位置证据很少,而前向顺序验证通常将第一个被拒绝的步骤视为错误源。在错误传播下,这种假设可能会失败,因为早期的错误可能在局部仍然是合理的,并且只能通过其下游后果才能观察到。因此,我们将推理验证重新视为一个进展感知的错误源定位问题:我们不只是询问推理轨迹在哪里首先出现不一致,而是询问哪个早期步骤最好地解释了这种不一致是如何沿着轨迹出现的。基于这一观点,我们提出了 Progression-aware Reasoning Origin (PRO),这是一种用于首次错误定位的免训练框架。 PRO 联合建模来自先前上下文的传入支持以及与后续推理的传出兼容性,有选择地细化这些信号不一致的区域,并最终使用基于干预的证据执行检测器条件源归因,以区分真正的错误起源与其传播的表现形式。我们进一步形式化了前向拒绝和结构暴露之间的差距,说明了为什么仅输入端证据不足以在错误传播下进行可靠的定位。跨开放形式、医学和结构化推理任务的实验表明,在强大的验证基线上取得了一致的改进,支持进展感知源归因作为推理验证的更忠实的表述。