沙丘社区
论文

ToolWeaver：为大语言模型可扩展工具使用编织协作语义

ToolWeaver: Weaving Collaborative Semantics for Scalable Tool Use in Large Language Models

Bowen Fang, Wen Ye, Yunyue Su, Jinghao Zhang, Qiang Liu, Yesheng Liu, Xin Sun, Shu Wu, Jiabing Yang, Baole Wei, Liang Wang
智能体系统Agent 工具调用

摘要

流行的基于检索的工具使用流水线面临双重语义挑战：其检索器往往使用无法捕捉复杂语义的编码器，而LLM本身从自然语言预训练中缺乏内在工具知识。生成式方法提供了强大替代：统一选择与执行，让LLM直接学习并生成工具标识符。然而，把每个工具映射到一个全新token的常见做法带来重大局限：它造成可扩展性与泛化危机，因为词表规模爆炸，且每个工具被分配一个语义孤立的token。这一做法还制造了语义瓶颈，阻碍协作式工具关系的学习，因为模型只能从庞大工具库中整体式工具ID的稀疏共现推断这些关系。为解决这些局限，我们提出ToolWeaver，一个把工具编码为层级序列的新型生成式工具学习框架。该方式使词表扩展与工具数量呈对数关系。更关键的是，它让模型从共享码的稠密共现中学习协作模式，而非整体式工具ID的稀疏共现。我们通过一种新颖的token化过程生成这些结构化码，该过程旨在把工具的内在语义与其外在共使用模式编织在一起。这些结构化码随后经生成式对齐阶段整合进LLM，在该阶段对模型微调以产出层级码序列。在近47,000个工具上的评估结果表明，ToolWeaver显著超越最先进方法，为先进工具增强智能体确立了更可扩展、更可泛化且语义感知的基础。

ToolWeaver：为大语言模型可扩展工具使用编织协作语义
图1：ToolWeaver 框架概览。(a) 我们将标准的“每个工具一个 token”（one-token-per-tool）方法（会创建庞大的扁平词表）与我们按对数规模扩展的组合式方法进行对比。(b) 我们的模型利用工具之间的协作信号（例如 Realtime Weather 与 Air Quality）进行复杂推理，而“每个工具一个 token”的表示在此类场景下会失效。(c) ToolWeaver 架构通过协作感知的向量量化过程学习这些结构化表示，随后将其整合进 LLM。