Switchcraft：面向智能体工具调用的AI模型路由器

调用外部工具的智能体AI系统强大但昂贵，导致开发者默认使用大模型、超支推理预算。模型路由可缓解此问题，但既有路由器为聊天补全而非工具使用设计。我们提出Switchcraft：据我们所知首个为智能体工具调用优化的模型路由器。Switchcraft内联运行，在正确性约束下选最低成本模型。我们在五个函数调用基准上构建评估框架，训练基于DistilBERT的分类器，在时延预算下部署。Switchcraft达到82.9%准确率——匹敌或超越最佳单个模型——同时把推理成本降低84%，每百万查询节省超3,600美元。我们发现大模型在工具使用任务上并不一致优于小模型，且名义上更便宜的模型可能因token密集推理产生更高总成本。我们的工作使成本感知的智能体AI部署不牺牲正确性。