论文
ProgRouter:质量-成本权衡下多智能体LLM工作流的在线进度引导编排
ProgRouter: Online Progress-Guided Orchestration for Multi-Agent LLM Workflows under Quality-Cost Tradeoffs
摘要
多智能体大语言模型(LLM)工作流已成为通过专业化LLM智能体之间的协作推理解决复杂开放式任务的有力范式,但由于反复的LLM调用和长程上下文累积,它们会产生可观的运行成本。现有级联路由方法做出一次性的查询级决策,无法适应多步工作流动态的、依赖状态的特性——在这种工作流中,每一步应使用哪个LLM取决于不断演进的任务进度、剩余任务难度和成本效率要求。我们提出ProgRouter,一个在线进度引导路由框架,它跨工作流步骤自适应地选择LLM智能体,在时间和成本预算内保持任务求解质量。ProgRouter引入一个多视图任务进度评分器,将粗粒度的工作流结果态势与子任务完成情况、进度趋势和工作流状态质量的细粒度信号相结合。随后,一个双路任务进度预测器和一个自适应元门控机制估计每个候选被路由LLM的进度增益。ProgRouter做出在线的逐步路由决策,在进度增益、任务时间预算和长期运行成本效率之间取得平衡。在HumanEval Plus、MBPP、MATH-500和ASQA上、覆盖agentic代码生成、数学推理和检索增强长篇问答的实验表明,ProgRouter在保持强劲任务求解性能的同时,降低了相对于关键基线的运行成本。
