论文
需要工作流程来发展更好的工作流程
It Takes Workflows to Evolve Better Workflows
摘要
处理复杂的现实世界任务可能超出单一大语言模型 (LLM) 的能力,从而促进使用多Agent工作流程来协调专门的Agent共同完成这些任务。最近的方法训练大语言模型从执行结果构建更好的工作流程,但它们仅优化工作流程生成器,而构建或执行每个工作流程的其他Agent保持固定,即使每个结果都依赖于所有这些Agent。然而,将训练扩展到生成器之外是具有挑战性的:Agent是耦合的,并且工作流的结果是单个稀疏分数,无法判断哪个Agent导致失败。我们提出了 FloWright,它利用工作流程作为优化工作流程的工具。通过引入分层的、结构感知的奖励范式,FloWright 使一个角色能够自我进化,两个或多个角色能够共同进化,而无需额外的模型、标签或执行。考虑到工作流通常是在单个Agent已经可以处理的数据上进行训练和评估的限制,我们进一步提出了 DataWright,一种自适应数据强化方法,可将现有数据集转换为难度增加的工作流级任务。在文档、幻灯片、图表、代码、数学和财务任务中,使用 FloWright 训练的小型开放模型的性能提升高达 $+7.41\%$,协同进化 ($+5.03\%$) 更多角色比单独优化其中一个角色 ($+2.83\%$) 获得更多收益。我们的项目页面:https://xhguo7.github.io/FloWright/.