论文
FlashEvolve:通过异步阶段编排加速代理自我进化
FlashEvolve: Accelerating Agent Self-Evolution with Asynchronous Stage Orchestration
摘要
基于 LLM 的进化已成为一种通过改进非参数工件来改进代理的有前景的方法,但其挂钟成本仍然是一个主要瓶颈。我们发现此成本来自同步阶段执行和每个 LLM 重阶段内的不平衡。我们提出了 FlashEvolve,这是一个高效的框架,它用异步工作器和队列取代同步执行,允许不同的阶段和步骤重叠。为了处理异步引入的数据过时问题,FlashEvolve 会跟踪工件版本并应用不同的策略来更新、丢弃或修补过时的工件。与异步强化学习中的权重空间陈旧性不同,语言空间陈旧性是可检查和可修复的:陈旧的工件不仅是延迟的工作,而且是 LLM 可以反思、修改并转化为有用的进化信号的可读证据。 FlashEvolve 通过推测阶段完成和自适应工作流程控制进一步提高了吞吐量和词元效率。在 GEPA 工作负载上,与同步 GEPA 相比,FlashEvolve 在本地 vLLM 上将提案吞吐量提高了3.5倍,在 API 服务上将提案吞吐量提高了 4.9 倍。同样的设计也适用于 ACE 和 Meta-Harness。