SGR：具有外部子图生成的 LLM 逐步推理框架

大语言模型 (LLM) 在不同的 NLP 应用程序中展示了强大的功能，例如翻译、文本生成和问答。然而，它们在需要深度推理和逻辑推理的复杂环境中仍然受到限制。由于这些模型是在大规模文本语料库上进行训练的，因此它们的生成过程仍然可能会引入不相关、嘈杂或与事实不一致的内容。为了缓解这个问题，我们引入了 SGR，这是一个逐步框架，可以通过外部子图生成来增强 LLM 推理。 SGR 从外部知识库构建特定于查询的子图，并使用其语义结构来支持多步推理。通过将中间推理步骤建立在结构化外部知识的基础上，该框架帮助模型专注于相关实体、关系和支持证据。特别是，SGR 首先构建一个适合输入问题的子图。然后引导模型对生成的结构进行逐步推理，并结合多个推理轨迹以获得最终的预测。多个基准数据集的实验结果表明，SGR 相对于竞争基准实现了持续改进，凸显了其在提高推理准确性和事实可靠性方面的价值。