论文
控制harness即控制成本:企业中AI编码Agent的路由与治理
Control the Harness, Control the Cost: Routing and Governing AI Coding Agents in the Enterprise
摘要
运行AI编码Agent的产品——harness——正在激增,企业正将其推广给员工:从几百席位的试点扩展到数万席位。大多数企业不自己构建这些harness,而是从大型供应商购买,如Anthropic的Claude Code或OpenAI的Codex。harness决定哪个模型作答、模型读什么、prompt缓存如何使用以及运行哪些子Agent,因此它决定了价目表上的费率以及按该费率购买的量。沿用专有或未调优harness默认设置的企业继承了这些选择及其账单。我们构建了一个快速、可定制的路由器,其中Jev——一个具有校准概率的分类器——按自带的请求分类法对每个agentic请求打标签。由于一个用户轮次是对属于单一模型的prompt缓存的多次请求,路由器只在没有运行中会话需要重建缓存的地方转移工作:会话开始时、侧通道中以及子Agent启动时。我们从价目表推导出任务中途切换何时能回本,以及一个交叉点:在长而工具密集的会话上,最高价模型的成本反而低于次一档,对来自公开数据集约10000个真实会话的重新定价证实了这一点。在一个有10000席位、用户行为取自这些数据集的仿真企业中,按Anthropic 2026年9月21日的牌价,路由器回收了14%到21%的模型支出,即每年330万至500万美元。本文还梳理了二十个harness的风险,为对单一供应商模型的依赖定价,并提出一个企业可立即从内部运行的控制平面,附带一个用于日后决定是否自持harness的决策阶梯。