辩论者混合：在多智能体推理中以架构级学习辩论

摘要

既有多智能体辩论框架 suffer 两个关键局限：它们依赖在设计时固定智能体角色与协调模式的静态架构——且要求实例化多个模型副本——产生可观计算开销。我们提出辩论者混合（MoD）——统一框架——利用混合专家范式在单一模型内实现动态自辩论。我们解决把MoE适配到辩证推理的三个关键挑战：(1) 双路由——把角色分配与过程流解耦——动态决定何时辩论 versus 何时综合；(2) 动量切换——用局部上下文平滑token级路由——减少专家切换抖动；(3) 统一自辩论——把多样辩论人设封装进轻量专家模块——消除智能体间通信同时保留行为多样性。多模态基准上的大量实验表明MoD超越单模型基线与常规多智能体系统——以3.7倍更低延迟与87%的token削减取得更优准确率。源代码见 https://github.com/YongLD/MoD。

辩论者混合：在多智能体推理中以架构级学习辩论：论文配图 — 图 1. 内部与外部辩论架构。 (A) 传统的多智能体辩论需要实例化独立的模型副本 (A1A_{1}–A4A_{4})，从而导致大量的运行时复杂性。 (B) 我们的混合辩手将不同的代理内部化到具有动态路由的共享专家池中，提高了框架灵活性，同时消除了代理间的通信开销。内部与外部辩论架构。 (A) 传统的多智能体辩论需要实例化独立的模型副本 ($A_1$–$A_4$)，从而导致大量的运行时复杂性。 (B) 我们的 Mixture-of-Debaters 将不同的代理内部化为具有动态路由的共享专家池，提高了框架灵活性，同时消除了代理间的通信开销。