论文

面向 LLM 推理的结构化分解:跨领域验证与语义网集成

Structured Decomposition for LLM Reasoning: Cross-Domain Validation and Semantic Web Integration

上下文与知识模型推理推理策略与问题分解本体

摘要

基于自然语言输入的规则推理出现在决策必须可审计、可论证的领域:临床协议以散文形式规定资格标准,证据规则通过文本条件定义可采性,科学标准规定方法论要求。将规则应用于此类输入既需要解释上的灵活性,也需要形式化保证。大型语言模型(LLM)提供灵活性,但无法确保一致的规则应用;符号系统提供保证,但需要结构化输入。本文提出一种结合两者优势的集成模式:LLM 充当本体填充引擎,依据专家编写的 TBox 规范将非结构化文本翻译为 ABox 断言,而基于 SWRL 的推理器以确定性保证应用规则。该框架将推理分解为实体识别、断言抽取与符号验证,任务定义基于 OWL 2 本体。跨三个领域(法律传闻证据判定、科学方法任务应用、临床试验资格)与十一个语言模型的实验验证了该方法。结构化分解在总体上取得相对少样本提示的统计显著改进,且在所有三个领域均观察到收益。消融研究证实,符号验证在仅结构化提示之外提供了实质性收益。填充得到的 ABox 可与标准语义网工具集成以进行检查和查询,使该框架得以支持更简单形式化无法表达的更丰富推理模式。

面向 LLM 推理的结构化分解:跨领域验证与语义网集成 配图
图 1:用于将自然语言翻译为一阶逻辑的 NL2FOL 流水线(复现自 Lalwani et al. [29])。模块 A 通过依次进行的提取阶段——声明解析、实体识别、关系分类与属性提取——对输入文本进行分解,然后构建融入背景知识的 FOL 表达式。模块 B 将逻辑公式编译为 SMT 格式,模块 C 将求解器输出解释为自然语言反例。这种分步架构体现了我们的框架所采用的神经-符号集成模式,不过我们用 OWL 本体填充取代了临时的 FOL 翻译,并用基于 SWRL 的推理取代了 SMT 验证。