论文
GBC:用于优化多代理系统的基于梯度的连接
GBC: Gradient-Based Connections for Optimizing Multi-Agent Systems
摘要
基于 大语言模型 (LLM) 构建的多代理系统 (MAS) 提供了一个有前景的框架,用于通过角色专业化和结构化交互来解决复杂任务。然而,他们的表现往往受到协调不善的限制,更根本的是,智能体之间缺乏细粒度的贡献分配。现有的方法通常依赖于粗粒度的反馈,因此很难确定哪些代理或交互步骤导致了错误。我们提出了基于梯度的连接(GBC),这是一种用于多智能体系统的细粒度归因和优化的方法。 GBC 将 MAS 建模为计算图,并引入基于梯度的连接权重来量化每个智能体的输出对 词元级 下游智能体的影响。通过构建归因图并向后传播特定于任务的损失信号,我们的方法可以精确识别错误源并进行有针对性的提示优化。我们进一步开发了 AgentChord,这是一种利用基于前缀的梯度计算的高效实现。 MultiWOZ 和 τ-bench 上的实验表明,GBC 提高了多智能体性能,并且优于强大的单智能体和多智能体基线,并且更高的归因质量与更大的优化效果相关。代码位于:https://github.com/yxc-cyber/AgentChord。