论文
面向高效多智能体辩论的跨模态记忆压缩
Cross-Modal Memory Compression for Efficient Multi-Agent Debate
摘要
多智能体辩论可以提升推理质量并减少幻觉,但随辩论轮次与智能体数量增加,上下文快速增长。保留完整文本历史会导致token用量超出上下文限制,且常需反复摘要,增加开销并加剧信息损失。我们提出DebateOCR,一个跨模态压缩框架,用紧凑的图像表示替换冗长的文本辩论轨迹,再经专用视觉编码器消费,以条件化后续轮次。这一设计压缩了通常横跨数万到数十万token的历史,输入token削减超过92%,并在多个基准上带来显著更低的计算成本与更快推理。我们进一步给出一个理论视角,表明智能体间的多样性支持被省略信息的恢复:虽然任何单一压缩历史可能丢弃细节,但聚合多个智能体的压缩视图能使集体表示以指数级高概率逼近信息瓶颈。
