代理网络的类型化联合工件：在冻结的异构 LLM 代理之间共享工具路由知识

开放的网络将允许代理运行来自多个供应商的冻结模型，将其历史记录保密，并互相指导调用哪个工具以及何时调用。平面文本（提示、示例池）使得协议很难区分噪声统计、合并规则和文档。权重和适配器无法在平台之间传输这些知识。我们建议共享类型化的联合工件、具有明确定义的字段的模式验证对象，以实现每个字段的隐私（此处描述，但已测量）、争议解决和跨模型传输，并将它们实例化为 SYNAPSE1（一种通用工具路由知识）。在删除 192 个垃圾条目和 1,916 个重复或几乎重复测试查询的训练项目后，联合概要在 StableToolBench（3,180 个工具）上每轮每个客户端 20 MB JSON 的情况下，在集中式概要的 1.1 个点内进行路由。将相同的体验合并并以键入字段而不是一个平面字符串的形式向路由器显示，在干净数据上值得 8.5 分，在 60% 注入矛盾下值得 7.4 分。交叉合并和渲染显示两半是不可分割的（平面显示的类型合并是最差的手臂），而三个冲突策略是无法区分的，因此推动这项工作的冲突日志不是在 τ-bench 零售上，每个纲要手臂将 GPT-4o 代理的每步工具调用准确性至少提高了 6.7 个点，这归因于格式而不是联合经验。本文得出两个警示性的发现：在主题标记的数学代理和 StableToolBench 上，具有相同标记经验的 TF-IDF 分类器击败了每个 LLM 路由臂（分别提高了 48 点和 26 分，主要是检索召回率），因为基准测试池在我们的过滤器之前保存了每个所谓未见工具的标记查询以及每个测试查询的逐字记录。它无法测量到没有标签的工具的路由，而路由是为此而存在的。