论文

Agent-as-a-Router:面向编码任务的智能体化模型路由

Agent-as-a-Router: Agentic Model Routing for Coding Tasks

智能体系统上下文与知识记忆Agent 架构与控制循环Agent记忆

摘要

真实用户通常可访问来自不同提供商的多个大语言模型(LLM)——这些LLM常各擅不同领域——无一只在全部领域占优。因此——把每个任务路由到最合适的模型对性能与成本都至关重要。既有路由器把这当作静态一次性分类问题。但我们把这些路由器的性能瓶颈识别为信息赤字:仅给原始LLM路由器增补任务维度级性能统计就带来15.3%相对增益——超过基于同维度级先验构建的启发式路由器。受该发现启发——我们提出Agent-as-a-Router——把路由形式化为C-A-F循环(上下文→动作→反馈→上下文)的框架:在部署期间积累执行锚定的经验以闭合信息缺口。我们将该框架实例化为ACRouter——由编排器、验证器与记忆模块组成——并介绍CodeRouterBench——含约1万任务实例、带8个前沿LLM经验证分数的评估环境——支持在流式任务上按遗憾比较路由器。实验表明ACRouter在分布内任务上取得最低累计遗憾——并泛化到分布外智能体编程任务——证明我们的路由框架主动闭合信息缺口。代码与基准发布于 https://github.com/LanceZPF/agent-as-a-router。

Agent-as-a-Router:面向编码任务的智能体化模型路由:论文配图
图 1:三种路由策略的比较。 (1) 静态、基于启发式的路由器(路由器通过查找表直接调度,例如 DimensionBest)。 (2) 基于静态训练策略的路由器(路由器使用没有记忆的学习策略模型)。 (3)我们提出的Agent-as-a-Router(在任务流中具有迭代自我进化能力的路由器)。