论文

LCGuard:面向多智能体系统安全KV共享的潜在通信防护器

LCGuard: Latent Communication Guard for Safe KV Sharing in Multi-Agent Systems

智能体系统Agent 协作

摘要

基于大语言模型(LLM)的多智能体系统日益依赖中间通信来协调复杂任务。虽然大多数现有系统通过自然语言通信,但近期研究表明,潜在通信——尤其是通过transformer键值(KV)缓存——可以提升效率并保留更丰富的任务相关信息。然而,KV缓存同样编码了上下文输入、中间推理状态与智能体专属信息,形成了一条不透明通道,敏感内容可能经由它在智能体之间传播而不留下任何显式文本痕迹。为此,我们提出LCGuard(Latent Communication Guard),一个面向多智能体LLM系统中基于KV的潜在通信安全框架。LCGuard将共享的KV缓存视为潜在工作记忆,并在缓存产物跨智能体传输之前学习表征层面的变换。我们通过重构从操作层面形式化表征级敏感信息泄漏:如果对抗性解码器能够从共享缓存产物中恢复智能体专属敏感输入,则该产物是不安全的。这引出一个对抗训练形式:对手学习重构敏感输入,而LCGuard学习既能保留任务相关语义又能减少可重构信息的变换。在多个模型家族与多智能体基准上的实证评估表明,与标准KV共享基线相比,LCGuard持续降低基于重构的泄漏与攻击成功率,同时保持有竞争力的任务性能。

LCGuard:面向多智能体系统安全KV共享的潜在通信防护器:论文配图
图1:多智能体通信拓扑示意:顺序、层级与图式三种结构,边上传递KV缓存潜在产物m_ij,为LCGuard的安全KV共享提供背景。