论文

三个 AI 智能体走进酒吧……“蝇王”式部落主义在聪明 AI 智能体中显现

Three AI-agents walk into a bar . . . . `Lord of the Flies' tribalism emerges among smart AI-Agents

智能体系统Agent任务评测

摘要

近未来的基础设施系统可能由自主 AI 智能体控制,它们反复请求访问能源、带宽或算力等有限资源。我们用简化框架研究这一设定:N 个 AI 智能体每轮独立决定是否从固定容量 C 的系统中请求一个单位。一种 AI 版“蝇王”由此出现:形成带有集体性格与身份的统治部落。LLM 智能体并未减少过载或改善资源利用,且表现常不如随机掷硬币决策。出现三种主要部落类型:激进型(27.3%)、保守型(24.7%)与机会型(48.1%)。能力更强的 AI 智能体实际上提高了系统失效率。总体而言,我们的发现表明,更聪明的 AI 智能体会因结成部落而表现得更笨。

三个 AI 智能体走进酒吧……“蝇王”式部落主义在聪明 AI 智能体中显现
图1: N = 3 N=3 个 AI 智能体在每个时间步持续决定是否访问容量为 C C 的公共资源的示意图。该资源可以是算力、能源、带宽等;同样的分析仍然适用。