论文

FlowBank:通过预计算和重用优化查询自适应代理工作流程

FlowBank: Query-Adaptive Agentic Workflows Optimization through Precompute-and-Reuse

智能体系统Agent Harness

摘要

基于 大语言模型 (LLM) 的多代理系统越来越强大,但当前的代理工作流优化范例做出了令人不满意的权衡。任务级方法花费了大量的离线计算,但仅部署单个工作流程,而未使用互补的候选者,而查询级方法则以大量的推理成本为每个查询合成一个新的工作流程。我们的激励分析表明,这些范例比竞争更具互补性:在离线搜索期间发现的工作流通常解决不同的查询子集,并且由昂贵的查询级生成处理的许多查询已经可以通过更便宜的预计算工作流来解决。这表明了一个不同的目标:我们不应该寻找一个普遍最佳的工作流程或为每个实例重新生成一个工作流程,而应该构建一个紧凑的可重用、互补的工作流程库,并在推理时自适应地在其中进行选择。这样做需要解决三个耦合问题:生成互补而不是冗余的候选者,将它们压缩到一个小的可部署组合中,以及在性能成本权衡下将每个查询分配给正确的工作流程。为此,我们提出了 FlowBank,这是一个用于基于组合的代理工作流程优化的三阶段框架。 Diversifying 提出 DiverseFlow 将搜索引导至覆盖率较低的查询并生成高覆盖率的候选池。 Curating 建议 CuraFlow 将这个池压缩成一个紧凑的投资组合,并尽可能减少冗余。匹配将部署转换为查询工作流二分图上的边缘值预测,并将每个传入查询路由到具有最佳预测效用的组合成员。在五个基准中,FlowBank 在评估方法中取得了最高的平均分,同时保持了成本竞争力,相对于最强的自动化和手工基准分别提高了 4.26% 和 14.92%。