论文

EquiMem:经博弈论均衡校准多智能体辩论中的共享记忆

EquiMem: Calibrating Shared Memory in Multi-Agent Debate via Game-Theoretic Equilibrium

上下文与知识记忆Agent记忆

摘要

多智能体辩论(MAD)系统越来越依赖共享内存来支持长视野推理,但这种便利带来了一个严重的漏洞:单个损坏的条目可能会污染下游的内存增强推理,而仅靠辩论无法过滤此类错误。现有的防护措施通过启发式或基于 LLM 的验证来过滤条目,但它们依赖于具有相同故障模式的人工智能判断,并忽略了 MAD 的跨代理动态。我们通过将 MAD 中的记忆更新制定为零信任记忆游戏来解决这一差距,其中没有代理被假定为诚实的,并且游戏的平衡充当最佳记忆信任的指标。在这种平衡的指导下,我们提出了 EquiMem,一种推理时间校准机制,它使用代理现有的检索查询和遍历路径作为证据,通过算法对共享内存状态的每次更新进行量化,而不是征求任何 LLM 判断。 EquiMem 对基于嵌入和基于图形的内存进行实例化校准,并且在不同的基准、MAD 框架和内存架构中,它始终优于现有的防护措施,在对抗代理下保持稳健,并且产生的推理开销可以忽略不计。

EquiMem:经博弈论均衡校准多智能体辩论中的共享记忆:论文配图
图1:辩论驱动的记忆提交失败案例:单条被污染条目经辩论仍留在共享记忆中。