论文
记住并重新加权:通过经验记忆和置信度估计增强多智能体辩论
Remember and Reweight: Enhancing Multi-Agent Debate with Experience Memory and Confidence Estimation
摘要
多智能体辩论 (MAD) 通过让多个智能体通过讨论迭代地完善其响应,从而提高了 大语言模型 的推理能力。然而,MAD 存在一个被称为共享误解的严重漏洞:当大多数智能体最初集中在一个错误答案上时,辩论过程往往会放大而不是纠正错误。现有的方法主要解决同行偏差,但没有解决代理固有的偏见概念先验问题。为了减轻这种系统性弱点,我们提出了 R$^2$-MAD(多智能体辩论的记住和重新加权),这是一个为智能体配备从过去辩论中积累的经验记忆的框架。 R$^2$-MAD 通过两种互补机制对两种故障模式进行干预:辩论状态感知检索策略通过基于当前共识水平检索相关历史证据来动态校准先验概念。然后,这些检索到的经验为估计每个代理的可靠性提供了基础,产生置信权重来调节同伴影响。各种基准的实验表明,R$^2$-MAD 比现有的单代理和 MAD 基准实现了一致的改进。