论文

TRIAGE:三级路由和智能代理指导,实现高效执行

TRIAGE: Three-level Routing and Intelligent Agent Guidance for Efficient Execution

智能体系统Agent Skills

摘要

基于ReAct范式​​的大语言模型(LLM)代理在工具使用和任务执行方面表现出了卓越的能力。然而,ReAct 存在一个根本性的效率问题:每个查询都会从头开始触发完整的推理循环,并且类似的查询会重复相同的步骤,而不会利用历史经验。我们提出了 TRIAGE,一个三级路由框架,通过重用历史执行轨迹来减少词元消耗。其核心创新是TaaS(Trajectory-as-a-Skill),将历史执行轨迹抽象为可复用的技能,实现“体验即服务”。 TRIAGE将查询分为三个级别:(1)直接重用相同查询,0 token; (2) 技能替换-类似查询,通过确定性参数替换获得 0 个词元; (3) 完整的 ReAct 新颖查询,自动存储以供将来重用。在针对 1,007 个安全监控查询的大规模实验中,TRIAGE 实现了 62.3% 的词元节省,其中 56.0% 的查询位于级别 2,5.5% 的查询位于级别 1,两者均以零成本执行。 ToolBench 上的跨域验证(15 个域,345 个查询)实现了 76.3% 的标记减少,证实了语义路由的通用性。在线学习实验展示了冷启动到成熟的演变:在前 100 个查询中,L2 命中率从 0% 上升到 57%,平均词元成本从 198 下降到 74.7。我们还提出了一种自动技能提取机制,将高频轨迹模式提炼为确定性技能,从而创建“使用得越多,效率就越高”的正反馈循环。