智能体AI中的弹性共识

大语言模型 (LLM) 代理越来越多地部署在多代理系统中，它们必须协调并就共同决策达成一致。我们询问为确定性代理开发的经典弹性共识理论是否可以转移到可能表现出敌对行为的 LLM 代理。将 LLM 协议构建为拜占庭共识游戏，我们在完整且通用的通信图上运行受控实验。我们发现，促使 LLM 代理无法达成原则上可实现的协议：即使在经典理论保证收敛算法存在的环境中，共识也可能失败，并且这种失败在不同温度和范围内持续存在。同时，用经典的弹性共识过滤器包装代理可以提高一致性。过滤的好处取决于底层拓扑已经提供的鲁棒性。我们的结果表明，经典的弹性共识理论对于智能体AI的安全性是一个有用的镜头。