论文
Verify-Adapt-Hold:遏制多机器人系统中的语义操纵级联
Containing Behavioral Cascades from Manipulated Claims in LLM-Powered Multi-Robot Systems
摘要
由大型语言模型 (LLM) 驱动的多机器人系统很容易受到语义操纵的影响:接受的错误世界状态声明可能会触发整个机器人群的行为级联,导致不必要的重新规划、路径成本增加、拥塞或明显的任务不可行。以成功的操纵为条件,我们提出了一个主动验证框架,在其下游影响在整个机器人群中传播之前遏制这些影响。专用验证模块生成结构化的验证-适应-保留计划:选定的机器人检查相应区域,有限的子集在必要时临时适应,其余机器人保留其可信计划。我们使用跨不同影响和团队规模的注入虚假障碍声明来评估多机器人运输环境中的框架。评估衡量级联遏制、成本总和、完工时间和覆盖率。结果表明,将操纵发生后的验证视为团队级规划问题,而不是二元信任决策,可以有效限制语义操纵的级联物理后果。