人类更加多样：前沿LLM在理想化AI开发竞赛中的极端策略

人工智能开发竞赛导致了多代理安全困境。每个公司可以选择缓慢且安全地开发，或者选择更快但可能冒着风险，这种风险可能会移除最终奖励。我们使用重复博弈来研究大语言模型（LLM）代理在与两个到五个玩家的竞赛中的战略安全行为。然而，一个有效的行动并不能表明一个代理理解游戏。因此，我们在行为解释之前放置了一个审计门。我们首先验证游戏引擎，然后测试规则回忆、状态跟踪、收益计算和稳定性，对于不同的但等效的任务描述。然后，我们将LLM行动序列与进化博弈理论基准和公开的人类数据进行比较，并探索模型、风险条件、角色和个人两个到五个玩家竞赛之间的差异。审计结果表明，强规则回忆可以与弱状态跟踪和预期收益计算共存。提供验证的算术和改变响应表示也可以改变后续行动，即使游戏规则保持不变。在七个测试模型端点，聚合率隐藏了在行动序列、对手反应和竞赛位置上的大量差异。在测试的三个到五个玩家竞赛中，模式也是模型特定的，而不是增加竞争者的单一效应。这些结果表明，多智能体AI竞赛需要验证其有效性并进行轨迹分析，以避免其输出被描述为战略、人类或安全的。我们的发现是探索性的，仅适用于测试模型、提示和解码设置。