论文

DHCG:动态构建层次多 Agent 协作图

DHCG: Dynamic Construction of Hierarchical Collaboration Graphs for LLM-Based Multi-Agent Reasoning

智能体系统Agent 协作

摘要

基于 LLM 的多智能体系统 (MAS) 在解决跨不同领域的复杂问题方面表现出了强大的能力。近年来,智能体系统的动态编排已成为一个重要的研究方向。然而,现有方法存在有限的组成、不对齐的依赖关系和不灵活的规模,限制了它们在执行过程中适应推理要求的能力。为了解决这些限制,我们将 MAS 设计重新构建为部分可观察的马尔可夫决策过程,其中 MAS 的组成和规模都是动态确定的。我们提出了 DHCG,这是一种新颖的框架,它协调三个模块(Planner、Worker 和 Generator),根据查询和不断变化的执行反馈从头开始逐步构建动态分层协作图。在每个步骤中,规划器都会在反馈的指导下生成一组针对当前推理需求定制的独特且互补的角色,并有选择地将相关信息路由到每个角色。它还可以尽早确定分层协作图,或者在需要额外推理时逐步扩展它。我们进一步引入动作感知偏好优化来训练规划器在构建分层协作图时做出更有效的决策。我们跨代码生成、数学推理和特定领域推理基准系统地评估 DHCG。 DHCG 在比较方法中实现了最先进的平均性能,比单个智能体基线提高了 13.06 点,比静态和动态 MAS 基线提高了 2.77-8.02 点。其他实验进一步证明了其在不同 Planner 骨干模型 和未见过的 Worker 模型中的泛化能力。

DHCG:动态构建层次多 Agent 协作图:论文原图
图 1:三种 MAS 构建范式的比较:(a) 基于图的 MAS; (b) 基于工作流程的 MAS; (c) 我们的反馈驱动的图构建范式。