论文
AgentWeave:推理前路由,实现工具丰富语言模型的高效函数调用
AgentWeave: Routing Before Reasoning for Efficient Function Calling in Tool-Rich Language Models
摘要
大语言模型日益运行在大规模工具、函数、API和专用智能体集合之上。随着候选动作空间增长,函数调用模型必须处理更多schema、消耗更多提示token,并在日益相似或无关的候选之间做区分。我们研究一种互补的系统策略:在语言模型推理之前缩减候选集,同时保持下游模型不变。我们提出AgentWeave,一个确定性的推理前路由层,利用资格、需求、能力和路由信号构建有界的模型可见动作空间。我们使用公开的MadeAgents/Hammer2.1-1.5b模型,在冻结的BFCL衍生路由压力协议下评估AgentWeave。在48个新BFCL V4多函数任务上,AgentWeave取得6/48(12.5%)的原生BFCL成功,而全工具、确定性随机top-8和语义top-8基线均为0/48。配对成功差异为+12.5个百分点,10,000次重采样配对bootstrap的95%置信区间为+4.17至+22.92个百分点,精确McNemar p=0.03125。相对全工具暴露,AgentWeave呈现的工具数减少70.18%,输入token减少61.70%,本地模型平均时延降低50.95%。这一结果是刻意收窄的:这是一项BFCL衍生的路由压力研究,而非官方完整BFCL排行榜得分,且绝对任务成功率仍然较低。尽管如此,证据表明候选空间构建能切实影响固定模型的函数调用行为,并促使将路由作为模型推理之前的独立阶段加以评估。