AgentGrad：多智能体系统的干预引导提示优化

基于大语言模型（LLM）的多智能体系统（MAS）通过采用专门的多个智能体来实现强大的性能，但它们的性能取决于每个智能体的提示词设计。对于 MAS 提示词优化，使用自然语言反馈指导提示更新的文本梯度方法已成为领先范例。在本文中，我们确定了现有文本梯度方法两个阶段的局限性：梯度提取和梯度聚合。在梯度提取中，以前的工作选择一个目标提示词，而不验证修改它是否可以解决失败，并且在没有对相应智能体的中间输出进行智能体级监督的情况下导出梯度。在梯度聚合中，各个梯度被随机分组和连接，通常会混合不相关的故障模式并产生无法泛化的提示词。为了解决这些限制，我们提出了 AgentGrad，这是一种基于顺序干预和语义文本梯度抽象的多智能体系统的提示词优化框架。对于每次故障，顺序干预一次修改一个智能体的行为，以识别其修改可解决故障的目标智能体。然后，目标智能体的修改后的输出用作智能体级监督，以提取细粒度梯度。语义文本梯度抽象对语义上相似的梯度进行聚类，以防止混合不相关的故障模式，并将每个聚类抽象为捕获共享校正模式的广义梯度。实验结果表明，AgentGrad 在五个 MAS 基准中实现了最先进的性能，与第二快的基准相比，实际优化耗时平均缩短至第二快基线的 1/2.5。