论文
ARMOR-MAD:大语言模型推理中异构多智能体辩论的自适应路由
ARMOR-MAD: Adaptive Routing for Heterogeneous Multi-Agent Debate in Large Language Model Reasoning
摘要
多智能体辩论(MAD)可以改进大型语言模型推理,但固定辩论管道通常会浪费计算量,并且会放大相似智能体之间的相关错误。我们提出了 ARMOR-MAD,这是一种免训练的异构 MAD 框架,它将辩论视为条件计算。 ARMOR-MAD 结合了三个组成部分: 预辩论协议路由 (PAR) 决定独立生成的第 0 轮答案是否需要辩论;早期协议停止评估器(EASE)在收敛后停止争论;语义异常值检测(SOD)在聚合过程中降低异常最终答案的权重。在 MATH Level 5、GSM8K、MMLU 和 MMLU-Pro 中,ARMOR-MAD 在相同模型池的固定轮异构辩论中持续改进,准确率分别达到 65.5%、96.5%、90.0% 和 81.5%。结果表明,真正的模型异质性和基于协议的控制对于使 MAD 更加准确和高效都很重要。
