论文
我们需要复杂的拓扑控制吗?不同同伴随机路由提升稀疏多Agent辩论的成本效率
Do We Need Complex Topology Control? Distinct-Peer Random Routing Improves Cost-Efficiency in Sparse Multi-Agent Debate
摘要
多Agent辩论(MAD)已成为通过迭代同伴交互提升大语言模型(LLM)推理准确性的有前景范式。通信拓扑在这一过程中扮演核心角色,催生了日益复杂的机制——学习、适应或动态重配Agent交互以提升准确性或推理可靠性。与此同时,既往研究表明,简单得多的稀疏通信已能以显著更低的成本取得有竞争力的表现。本工作细看稀疏MAD,追问改善集体推理是否真的需要复杂拓扑控制。我们发现,一种简单的无放回随机路由策略——让每个Agent每轮与两个不同的、新采样的同伴辩论——提供了惊人强的基线,并持续改善稀疏MAD的准确率-成本权衡。基于这一观察,我们进一步研究审议停止问题,表明轻量级停止策略可在保持有竞争力准确率的同时大幅降低推理成本。我们的结果提示,学习型拓扑适应等复杂拓扑控制,在证明其额外复杂性合理之前,应当先与强大的简单路由与停止基线比较。
