论文
当协调成为威胁时：LLM 控制的多机器人系统中的通信攻击
When Coordination Becomes a Threat: Communication Attacks in LLM-Controlled Multi-Robot Systems
摘要
大语言模型 (LLM) 越来越多地用作实体多机器人系统中的高级规划器，使机器人能够解释自然语言指令并协调可执行动作。然而，对 LLM 规划者的日益依赖也引发了安全问题。之前的工作主要集中在单个机器人上，而多机器人协作中的通信风险仍然没有得到充分的了解。现有的多机器人研究进一步仅限于去中心化多代理系统（DMAS）架构下的初步分析，因此尚不清楚这些风险是否在其他常见通信架构中持续存在，以及攻击者访问设置如何影响其传播。为了填补这一空白，我们制定了两种与不同攻击者访问设置相对应的通信攻击：外部入口点攻击和特权系统内攻击。我们使用三个 LLM 和五个具体的多机器人任务来评估跨 DMAS、HMAS-1 和 HMAS-2 的攻击。结果表明，不安全信息可以在所有三种架构中转化为不安全操作：DMAS 达到 96.7\% 的入口认可率和 100\% 的认可后激活率，HMAS-1 达到 97.8\% 的不安全操作成功率，HMAS-2 触发 88.3\% 的任务定义的不安全操作槽。为了降低可信信息流的风险，我们引入了声明来源和验证 (CPV) Gate，它在下游重用之前验证所传达的声明，并将违规率从 70.0% 降低到 36.6%。