论文

丰富检索排名:将能力发现扩展到上下文路由之外

Enrich-Retrieve-Rank: Scaling Capability Discovery Beyond In-Context Routing

智能体系统Agent 工具调用

摘要

代理生态系统现在包括数千个 MATS 组件(模型、代理、工具和技能),但它们的发现仍然依赖于上下文路由。这些系统读取注册表(名称、提示或描述,如果上下文预算允许),选择一个候选者,调用它,并在失败时重试。这种模式会随着规模的扩大而退化,并且注册中心正在快速增长。我们通过定义离线丰富步骤将稀疏元数据转换为可搜索配置文件,以及在线检索然后排名管道,将功能发现重新定义为对注册表的搜索,该管道返回排名后的候选列表,而无需在线调用任何候选者。我们表明,从 N=10 到 7,278 个功能,上下文内路由的 top-1 准确率 (M​​atch@1) 崩溃(0.85 到 0.12),而检索然后排序的降级则更为温和(0.81 到 0.39),因为一旦检索找到正确的功能,其重新排序器仍然将它排在第 0.70-0.87 的时间。在 Nova Micro 扫描中,交叉点约为 N=500。我们与两个上下文基线进行比较。 Full-Ctx 将整个注册表放入提示符中,并要求 LLM 进行选择。 Search&Pick 为 LLM 提供了一个搜索工具,可在选择之前缩小候选范围。在全面规模化的情况下,该管道在 Match@1 上领先 Search&Pick 6.5 个百分点 (pp),而成本约为一半。与 Full-Ctx 相比,它的成本降低了 70 倍。我们在代理、工具和技能注册表中使用固定配置(相同的丰富、检索器 和记分器权重)。该管道在生产中作为大型多代理平台的默认功能发现层运行。