何时提示控制机器人：多代理机器人系统中的提示注入攻击

大语言模型 越来越多地集成到自主机器人系统中，用于任务规划和控制，但这种集成使它们面临即时注入攻击，可能导致不安全的决策和人身伤害。多代理设置通过跨代理污染和更广泛的攻击面增加了风险。在本文中，我们评估了针对基于 LLM 的多代理机器人系统的即时注入攻击，考虑了直接注入任务指令和通过感知模块的间接注入。在我们针对单代理和多代理设置中不同的攻击目标复杂性和注入策略的实验中，我们表明，即时注入可以引发对抗性行为，同时减少任务完成率。我们发现攻击可以通过共享提示结构从一个代理传播到其他代理，其影响根据提示组成和目标代理而变化。我们进一步分析架构变化如何影响 LLM 查询，从而影响攻击的成功。据我们所知，这是第一项系统研究基于多代理 LLM 的机器人系统中的即时注入攻击的研究。