论文
企业 MCP 网关的混合语义工具发现:架构和实现
Hybrid Semantic Tool Discovery for Enterprise MCP Gateway: Architecture and Implementation
摘要
大语言模型 (LLM) 代理调用外部工具来检索和推理超出预训练知识的信息。模型上下文协议 (MCP) 标准化了此类工具的呈现方式,代理 MCP 服务器将许多后端服务器聚合在单个端点后面,为身份验证、策略实施和可观察性提供安全、可管理的阻塞点。这种架构带来了两个复杂的挑战:上下文工程瓶颈,在任何用户查询之前,完整的工具模式使模型上下文窗口饱和;工具可发现性障碍,用户和代理无法在 200 多个 MCP 服务器的 2,000 多个索引工具中识别出最佳工具。即时缓存降低了重新处理成本,但既不释放上下文容量,也不提高准确性。我们提出了 SCOUT(通用工具的选择性上下文优化),它将工具暴露重新定义为上下文选择问题,仅注入与当前步骤相关的工具。 SCOUT 提供两个 MCP 元工具——tool_search 和execute_tool——其中 tool_search 执行混合检索,通过倒数排名融合将 BM25 稀疏匹配与密集向量搜索融合,以返回前 k 个相关工具。在零停机目录更新管道的支持下,SCOUT 解决了上下文饱和和工具发现挑战。在 PayPal 的生产中,SCOUT 将 MCP 工具词元消耗从 140.2k 词元(上下文的 70.1%)减少到 1.3k 词元(0.8%),减少了 99%,从而降低了企业规模的每次查询推理成本。由于 SCOUT 作为标准 MCP 工具出现,因此它与模型无关,并且不需要客户端修改。