CASTER：通过上下文感知的任务高效路由策略打破多智能体编排的成本-性能壁垒

摘要

基于图的多智能体系统（MAS）支持复杂的循环工作流，但低效的静态模型分配使其受损——统一部署强模型会在琐碎子任务上浪费计算。我们提出CASTER（Context-Aware Strategy for Task Efficient Routing），一个面向图式MAS中动态模型选择的轻量路由器。CASTER采用双信号路由器，结合语义嵌入与结构元特征来估计任务难度。在训练期间，路由器通过冷启动到迭代进化范式自我优化，借助策略上的负反馈从自身路由失败中学习。在软件工程、数据分析、科学发现和网络安全领域使用LLM-as-a-Judge评估的实验表明，与强模型基线相比，CASTER在匹配其成功率的同时将推理成本降低最高72.4%，并在所有领域持续优于启发式路由和FrugalGPT。

CASTER：通过上下文感知的任务高效路由策略打破多智能体编排的成本-性能壁垒 — 图1：CASTER 框架总体架构。系统从 mock 数据和经由 GPT-4o 的动态任务生成开始。核心 Router 融合语义特征与元特征来分派任务，并通过冷启动与 on-policy 负反馈机制不断演进。任务由领域专属智能体（Software、Data、Science、Security）执行，并对照综合基准进行评估，以确保多模型能力。