通过外部子图生成增强 LLM 的逐步推理

大语言模型在自然语言生成和下游推理任务中表现出了强大的性能，但在复杂的多步骤推理中仍然在逻辑一致性、事实基础和可解释性方面遇到困难。为了解决这些限制，本文提出了 SGR，这是一种逐步推理增强框架，通过与查询相关的子图生成将 大语言模型 与外部知识图集成。给定一个输入问题，SGR 首先提取关键实体、关系和约束来构建结构化模式，然后使用模式引导查询从知识图中检索紧凑子图。生成的子图提供了明确的关系证据，通过逐步推理来指导语言模型。此外，SGR 将基于 Cypher 的直接推理与协作推理集成相结合，允许根据模型置信度和图形一致性来验证和聚合来自多个推理路径的候选答案。在 CWQ、WebQSP、GrailQA 和 KQA Pro 等基准数据集上进行的实验表明，与标准提示和多个知识增强基线相比，SGR 提高了推理准确性和 Hits@1 性能。消融研究进一步表明，模式指导和基于 Neo4j 的检索对于框架的有效性都至关重要。这些结果表明，动态生成的外部子图可以提高基于 LLM 的推理的准确性、鲁棒性和可解释性。