能力更强未必更合作：大模型的零成本协作失效

大语言模型 (LLM) 代理在多代理系统中越来越多地进行协调，但我们缺乏对合作失败的位置和原因的了解。许多现实世界的协调问题并不是社会困境：帮助他人——共享文档、解除队友的阻碍——帮助者几乎不需要花费任何成本，同时会产生巨大的集体利益。 LLM Agent是否在帮助无成本且被明确要求合作的条件下进行合作仍不得而知。我们构建了一个回合制多智能体环境，消除了所有战略复杂性，使合作无成本且最优化。在八个广泛使用的 LLM 中，能力并不能预测合作：OpenAI o3 仅达到最佳集体性能的 17%，而较弱的 o3-mini 达到 50%，尽管有相同的指令来最大化团体收入。使用一种自动化代理通信一侧的因果分解，我们将合作失败与能力失败分开，并发现几个有能力的模型主动隐瞒信息，尽管隐瞒没有获得任何好处。有针对性的干预措施针对每种模式：明确的协议使能力有限模型的性能大致提高了一倍，而小型共享激励则解锁了合作限制模型。我们的结果表明，仅靠扩展智能并不能解决多智能体系统中的协调问题，并且需要深思熟虑的合作设计，即使帮助不需要任何成本。