论文

矩阵即计划:基于反馈驱动重规划的结构化逻辑推理

MATRIX AS PLAN: Structured Logical Reasoning with Feedback-Driven Replanning

模型推理推理策略与问题分解

摘要

随着网络上的知识与语义日益复杂,提升大语言模型(LLM)的理解与推理能力变得尤为重要。Chain-of-Thought(CoT)提示已被证明能增强 LLM 的推理能力,但在依赖符号表达与严格演绎规则的逻辑推理任务上仍有不足。神经符号方法通过外部求解器强制形式正确性来弥补这一差距,但这些求解器对格式高度敏感,模型输出中的微小不稳定就可能导致频繁的处理失败。LLM 驱动的方法避免了解析脆弱性,却缺少结构化表示与过程级纠错机制。为进一步增强 LLM 的逻辑推理能力,我们提出 MatrixCoT,一个采用矩阵形式计划的结构化 CoT 框架。具体而言,我们对自然语言表达式进行规范化与类型化并附上显式引用字段,并引入基于矩阵的规划方法以保留步骤间的全局关系。计划由此成为可验证的工件,执行也更稳定。在验证方面,我们还加入反馈驱动的重规划机制,在语义等价约束下识别遗漏与缺陷,重写并压缩依赖矩阵,产出更可信的最终答案。在五个逻辑推理基准与五个 LLM 上的实验表明,在不依赖外部求解器的情况下,MatrixCoT 增强了 LLM 处理复杂符号推理任务时的稳健性与可解释性,同时保持有竞争力的性能。

矩阵即计划:基于反馈驱动重规划的结构化逻辑推理
图2:MatrixCoT 框架与方法总览。该流程首先将问题转换为规范化、带类型的符号表示,然后构建带依赖关系与计划节点的基于矩阵的计划。接着由问题求解器执行该计划,随后由反馈驱动的重规划器在需要时修复并重新执行计划。系统最终汇总信息并抽取答案。