GRAFT：用于工具规划的图标记化 LLM

大语言模型 (LLM) 越来越多地用于通过跨多个步骤选择和协调外部工具来完成复杂的任务。这需要将工具选择与子任务意图保持一致，同时满足工具之间的定向执行依赖性。为此，现有方法将这些依赖关系建模为工具图，并通过检索、序列化或提示级注入将这些图与 LLM 合并。然而，这些外部图使用策略都遵循匹配范例，这通常无法将工具选择与底层子任务结构保持一致，从而产生违反图约束的语义上合理的计划。错误累积会进一步加剧这个问题，早期不正确的工具选择会将计划转变为无效的图形状态，并导致后续预测偏离有效的执行路径。为了应对这些挑战，我们提出了 Graft，一种用于依赖性感知工具规划的图标记化语言模型框架。 Graft 通过将每个工具节点映射到专用的特殊标记并学习表示空间内的定向工具依赖关系来内部化工具图。它进一步介绍了 同策略 工具上下文 蒸馏，在其自己的采样轨迹上训练模型，同时提取逐步规划信号。实验表明，Graft 在精确序列匹配和依赖性合法性方面实现了最先进的性能，支持复杂工作流程中更可靠的 LLM 工具规划。