论文
CIA：从基于LLM的多智能体系统推断通信拓扑
CIA: Inferring the Communication Topology from LLM-based Multi-Agent Systems
摘要
基于LLM的多智能体系统（Multi-Agent Systems, MAS）在解决复杂任务方面展现出卓越能力。MAS的核心是通信拓扑，它支配智能体之间内部交换信息的方式。因此，通信拓扑的安全性日益受到关注。本文研究一种关键隐私风险：在严格的黑盒设置下，MAS通信拓扑可被推断出来，这暴露系统漏洞并构成重大知识产权威胁。为探究这一风险，我们提出通信推断攻击（Communication Inference Attack, CIA），这一新型攻击构造新的对抗性查询以诱导中间智能体的推理输出，并通过所提出的全局偏置解耦与LLM引导的弱监督对其语义相关性建模。在采用优化通信拓扑的MAS上进行的大量实验证明了CIA的有效性：平均AUC达0.87，峰值AUC高达0.99，从而揭示了MAS面临的重大隐私风险。
