论文
PANDA:一种具有灵活编排的去中心化架构,适用于可扩展、容错的多Agent系统
PANDA: A Decentralized Architecture with Flexible Orchestration for Scalable, Fault-Tolerant Multi-Agent Systems
摘要
基于 LLM 的多Agent系统 (MAS) 的现有架构无法可靠、高效地大规模解决多步骤任务:它们难以支持大量Agent和并发任务、容忍故障、管理Agent交互以及适应不同任务所需的不同计划和执行模式。我们提出了 PANDA,这是一种去中心化架构,它连接大量异构、独立管理的Agent,让它们发现彼此的能力,并根据任务自组织成小型专业团队。 PANDA 通过将集体通信与团队通信解耦来进行扩展,允许Agent同时参与多个团队、跨集体负载平衡任务以及调度每个Agent内的并发工作。 PANDA进一步将底层架构与编排策略分离,支持三种规划和执行模式(星型、链型和网状),可以根据每个任务的结构和需求进行选择。 PANDA 检测基础架构和编排故障,并通过围绕故障组件动态重新规划来恢复受影响的任务。最后,为了在没有会限制可扩展性的集中式服务的情况下提供治理,PANDA 使用信任网络模型将Agent交互限制为已建立的信任关系。我们在 HotPotQA 基准上评估 PANDA,证明它可以扩展到数千个Agent,在几毫秒内组建团队,以高达 8 倍的效率匹配最先进的精度,并在现有系统出现故障的情况下维持 100% 的任务完成。