通过多样性理解基于 LLM 的多智能体系统中的智能体扩展

基于 LLM 的多智能体系统（MAS）已成为应对单个 LLM 难以处理的复杂任务的有前景途径。一种自然策略是通过增加智能体数量来扩展性能；然而，我们发现在同质设置下，这种扩展表现出强烈的边际收益递减，而引入异质性（例如不同的模型、提示或工具）则能持续带来可观收益。这引出一个根本问题：是什么限制了扩展，为什么多样性有帮助？我们提出一个信息论框架，表明 MAS 性能受任务内在不确定性约束，而非受智能体数量约束。我们推导出与架构无关的界，证明改进取决于系统能接入多少有效通道。同质智能体因输出高度相关而早早饱和，异质智能体则贡献互补证据。我们进一步引入 K*，一个无需真值标签即可量化有效通道数的有效通道计数。在实证上，我们证明异质配置持续优于同质扩展：2 个多样的智能体可匹敌或超过 16 个同质智能体的性能。我们的结果为通过多样性感知设计构建高效且稳健的 MAS 提供了原则性指南。代码与数据集见链接：https://github.com/SafeRL-Lab/Agent-Scaling。