用于可解释机器推理的基于定理的执行本体

大语言模型 在数学、科学、编程和常识推理等推理任务上取得了令人印象深刻的表现。尽管取得了这些进步，但它们的推理过程在很大程度上仍然是潜在的，这使得它们难以解释、验证、重放、调试和跨域传输。现有的方法（例如思想链、思想树、思想图和工具增强推理）公开了中间推理工件，但通常缺乏显式的执行语义、形式化状态表示和可验证的推理结构。我们引入了基于定理的执行本体（TGEO），这是一个将推理建模为可执行状态转换过程而不是生成的标记序列的框架。给定一个输入问题，TGEO 识别相关定理族，将问题绑定到领域本体，发现语义对象，实例化状态和运算符，构造谓词和契约，并综合可执行的推理图。生成的图提供了可解释、可重播和可审计的推理表示，其中明确表示了每个状态转换、运算符应用程序和验证步骤。 TGEO 集成了五个架构组件：（1）基于定理的推理先验，（2）可执行本体，（3）操作员介导的状态转换，（4）谓词和基于契约的执行验证，以及（5）架构审计和故障定位。我们在源自数学基准领域和精心策划的Golden Execution Suite（金标准执行集）的定理密集型推理任务上评估 TGEO。我们的研究结果证明了可执行推理表示对于可解释、可验证和可再现的人工智能推理系统的价值。