论文

TSCG:用于代理 LLM 部署的确定性工具架构编译

TSCG: Deterministic Tool-Schema Compilation for Agentic LLM Deployments

智能体系统Agent 工具调用

摘要

生产代理框架(OpenAI Function Calling、Anthropic Tool Use、MCP)将工具模式传输为 JSON,这是一种为机器解析而设计的格式,而不是由语言模型解释。对于小型模型 (4B-14B),这种协议不匹配是生产目录大小的大部分工具使用失败的原因。我们推出了 TSCG,这是一种确定性工具模式编译器,可以解决 API 边界上的这种不匹配问题,将 JSON 模式转换为词元高效的结构化文本,而无需模型访问、微调 或运行时搜索。 TSCG 将八个可组合运算符与正式压缩界限(在格式良好的模式上> = 51%)结合在一起。在 TSCG-Agentic-Bench(约 19,000 个调用、12 个模型、5 个场景)上,TSCG 将 Phi-4 14B 在 20 个工具下的准确率从 0% 恢复到 84.4%(在 50 个工具下为 90.3%),并在 BFCL 上的三个模型上实现了 108-181% 的准确率保留率。格式与压缩分解(R^2=0.88 -> 0.03)将表示变化确立为主导机制。跨三个前沿模型的每个操作员隔离揭示了三种不同的操作员响应配置文件:操作员饥饿(Opus 4.7)、操作员敏感(GPT-5.2)和操作员稳健(Sonnet 4),提供每个模型的部署指导。扩展实验表明,尽管轻量合成目录已饱和,但在大量生产 MCP 模式上仍然存在准确性优势(大约 10,500 个输入词元时 +5.0 pp),整个过程中词元节省了 52-57%。综合基准​​测试推广到真实 MCP 模式,精度在 0.1 点以内。 TSCG 作为 1,200 行零依赖 TypeScript 包提供。