论文

作为可满足性模理论的神经符号语言推理

Neurosymbolic Language Reasoning as Satisfiability Modulo Theory

模型推理推理策略与问题分解

摘要

自然语言理解需要在文本推理与逻辑推理之间交替进行,而大语言模型往往无法可靠地完成此类推理。现有神经符号系统将LLM与求解器结合,但仅限于数学或程序综合等可完全形式化的任务,对只含部分逻辑结构的自然文档尚无对策。我们提出Logitext,一种神经符号语言,把文档表示为自然语言文本约束(NLTC),使部分逻辑结构显式化。我们开发了一种算法,将基于LLM的约束评估与可满足性模理论(SMT)求解相结合,实现文本—逻辑联合推理。在一个新的内容审核基准以及LegalBench和Super-Natural Instructions上的实验表明,Logitext同时提升了准确率与覆盖率。本工作首次把基于LLM的推理当作一种SMT理论,将神经符号方法拓展到可完全形式化领域之外。

作为可满足性模理论的神经符号语言推理
图9:图1(a)中Disruptive Behavior政策的条款级准确率