论文

GraphWalk:通过基于工具的图导航使大语言模型具备推理能力

GraphWalk: Enabling Reasoning in Large Language Models through Tool-Based Graph Navigation

智能体系统Agent 工具调用

摘要

利用知识图谱在真实世界问答应用中为智能体提供接地(grounding)已日益普遍。回答复杂查询往往需要多跳推理和遍历庞大关系结构的能力。标准做法依赖提示技术引导大语言模型对原始图上下文进行推理,或采用将相关子图注入上下文的检索增强生成流水线。然而,对于规模大到连当今最大上下文窗口都无法容纳的企业级知识图谱(KG),这些方法面临严重局限。我们提出GraphWalk,一个与具体问题无关、无需训练、基于工具的框架,让现成LLM通过顺序图导航进行推理,在不同任务上显著提升性能。与将领域知识编码进专用工具的任务特定智能体框架不同,GraphWalk为LLM配备一组最小且相互正交的图操作,足以遍历任何图结构。我们评估配备GraphWalk的模型能否将这些操作组合成正确的多步推理链,其中每次工具调用代表一个可验证的步骤,形成透明的执行轨迹。我们首先在迷宫遍历上验证该方法——非推理模型完全无法解决这一问题,随后在类似真实世界企业知识图谱的图上给出结果。为将结构化推理与世界知识分离,我们在完全合成、标签随机且无语义的图上进行评估。我们的基准涵盖12个查询模板,从基础检索到复合一阶逻辑查询。结果表明,在测试的所有模型家族上,基于工具的遍历相比上下文内基线带来显著且一致的提升,且规模越大提升越明显——而这恰恰是上下文内方法灾难性失效之处。

GraphWalk:通过基于工具的图导航使大语言模型具备推理能力:论文配图
图1:调用get_next_possible_cells后在10×10迷宫节点24:黄=工具输出、蓝=已访问、绿=起点、红=目标。