提升AI智能体的智能水平可能恶化集体结果

当资源稀缺时，AI智能体种群会和谐协作，还是陷入部落式混乱？来自不同开发商的多样化决策AI正进入日常设备——从手机、医疗设备到战场无人机和汽车——这些AI智能体通常会争夺充电位、中继带宽、交通优先权等有限共享资源。然而它们的集体动态以及由此带来的对用户和社会的风险尚缺乏理解。我们将AI智能体种群作为首个真实智能体系统加以研究，其中支配集体行为的四个关键变量可被独立调控：天性（先天的LLM多样性）、教养（个体强化学习）、文化（自发形成的部落）与资源稀缺度。我们以实证和数学方式证明：资源稀缺时，AI模型多样性与强化学习会加剧危险的系统过载，而部落形成会降低这一风险。与此同时，一些个体获利颇丰。当资源充裕时，同样的因素会将过载压至近零，不过部落形成会让过载略有恶化。这一转折是算术性的：它出现在自发形成的对立部落恰好能被现有容量容纳之处。更复杂的AI智能体种群并不更好：其复杂性究竟是助是害，完全取决于一个数字——容量与种群之比——这一数字在任何AI智能体发布之前即可知晓。