论文
OpenEvoShield：面向开放世界多智能体系统攻击的双非平稳持续防御
OpenEvoShield: Dual Non-Stationary Continual Defense for Open-World Multi-Agent System Attacks
摘要
基于LLM的多智能体系统（LLM-MAS）日益部署在安全攸关应用中，对手经智能体间通信注入恶意指令以传播危害。与静态威胁不同，这类攻击是双重的动态：对手针对已部署防御精炼注入策略，而正常智能体行为随系统扩张漂移。现有防御把部署视为封闭世界问题，一旦任一分布漂移超出训练覆盖即迅速退化。我们提出OpenEvoShield，一个LLM-MAS的协同进化持续防御框架：非对称速率控制器（M1）把攻击侧快、正常侧慢的学习率与双漂移信号解耦；正常边界更新器（M2）以慢速率维护动态行为边界；EWC正则化的策略集成（M3）快速适应而不灾难性遗忘；基于能量的多粒度检测器（M4）融合节点、子图与图级证据，把新型攻击分类为分布外。跨五个基准、四种MAS拓扑、100个部署轮次的实验显示：OpenEvoShield优于静态与持续基线，检出大多数既往未见的攻击，同时保持低误报率。
