拜占庭故障下的鲁棒多Agent LLM

大语言模型 (LLM) 代理越来越多地通过对等网络进行协作，以提高其可靠性。然而，这些相同的交互也可能会给不可靠或拜占庭代理带来漏洞，这些代理可能传播不正确的信息并降低整体系统性能。为了解决这个问题，我们提出了自锚共识（SAC），这是一种完全去中心化的过滤和细化协议，其中代理迭代地交换响应，本地评估和过滤不可靠的消息，并细化自己的输出。我们在通信图上提出了$(F{+}1)$-鲁棒性条件，以确保诚实的代理在受到拜占庭影响的情况下保留和传播可靠的信息。在数学和常识推理基准上对不同开放权重和封闭权重 LLM 进行的实验表明，SAC 有效地抑制了拜占庭影响，并持续提高了不同通信拓扑的性能，而先前的方法在拜占庭攻击下会显着退化。