论文

MAPLE-Guard:针对多代理系统中内存链接中毒的内存感知链接强制执行

MAPLE-Guard: Memory-Aware Link Enforcement Against Memory-Link Poisoning in Multi-Agent Systems

智能体系统Agent 动作执行与治理

摘要

基于 LLM 的多智能体系统 (MAS) 越来越依赖持久的私有和共享内存来进行长期协调。该内存层提高了连续性,但也为攻击者提供了持久的通道:中毒的内存可以被写入一次,在以后的任务中不断检索,提升到共享内存,并由其他代理重用。因此,单个中毒写入可以引导许多后续决策并污染从未见过原始攻击的代理,同时在受到损害时没有恶意消息跨越可见的通信边缘。此外,由于现有的防护措施主要检查提示、操作或通信边缘,因此它们可能会错过那些内容在写入时看似良性但在检索后变得有害的攻击。我们介绍内存感知传播和链接执行防护(MAPLE-Guard),这是一种用于启用内存的 MAS 的内存链接防护。 MAPLE-Guard 监控内存生命周期,并在写入、检索、升级和跨代理重用时设置门控,因此可以隔离有风险的内存,过滤不安全的检索,并在有毒的私有内存进入共享内存之前将其阻止。在主要评估中,MAPLE-Guard将LongMemEval上的攻击成功率(ASR)从38.2%降低到0.9%,将AppWorld上的攻击成功率从34.7%降低到0.2%;在相同的基准上,它还将多智能体防御成功率 (MDSR) 从 54.0% 提高到 74.3%,从 42.5% 提高到 99.8%。这些结果表明,内存感知链接实施弥补了提示级和拓扑级防御留下的空白。代码可通过以下链接获取:https://github.com/xiong-wenjun/MAPLE-Guard。