论文
当智能体意见不一致时:贝叶斯逆向推理作为多智能体集体决策的无标签锚
When Agents Disagree: Bayesian Backward Reasoning as a Label-Free Anchor for Multi-Agent Collective Decision-Making
摘要
当多个 LLM 智能体产生相互冲突的答案时,决策过程将决定智能体的多样性是提高性能还是仅仅复合共享错误。现有的集体决策方法,包括投票、选举规则和大语言模型法官,都依赖于前向推理:它们将证据沿一个方向映射到标签。尽管这些方法可以组合不同的前向轨迹,但它们仍然聚合共享这种证据到标签分解的估计,并且可以继承前向池内的相关误差。因此,我们通过贝叶斯逆向推理从显式可能性中为每个实例构造一个反向后验。前向和反向后验提供了底层后验的不同因式分解近似值。由于不同因式分解的估计可能较少出现相同的错误,因此我们使用 Jensen-Shannon 散度通过交叉路径一致性对智能体进行排名。这种跨路径一致性信号基于三种策略:硬选择(MinJS)、软重新加权(FwdJS)和对数线性融合(LogLin)。在五个 LLM 主干上的 DDXPlus 上进行评估,我们提出的策略显示出一致的改进:MinJS 在所有主干上都优于随机选择,FwdJS 通常比最强的基线有所改进,LogLin 在评估的方法中实现了最佳性能,在智能体不同意的子集上获得了最大的收益。尽管其独立精度较弱,但反向后验比仅前向替代方案更有用,为集体决策提供补充信息。当标记数据可用时,轻量级两阶段校准可以进一步细化反向锚并提高聚合性能。