论文

机器人安全计划与执行轨迹之间的细化缺口

Mind the Refinement Gap: When Safe High-Level Robot Plans Produce Unsafe Executions

智能体系统Agent 动作执行与治理

摘要

语言驱动的机器人系统越来越多地将语义图规划与时序逻辑安全监视器结合。我们研究这些系统中的轨迹完整性假设:监视器检查的高层动作序列,是否代表执行过程中引发的导航与隐式动作效果。我们审计RoboGuard中的这一假设,在同一线性时序逻辑(LTL)规范下比较其对表层计划与图细化轨迹的判定。评估包含覆盖五类动作抽象的28个受控案例,以及14个端到端案例;后者由SPINE [1]从自然语言指令生成计划,RoboGuard生成场景落地的安全规范。在受控评估中,全部12个针对性抽象案例均出现预测的表层与细化轨迹判定差异,而全部16个对照表现符合预期。这支持将基于图的轨迹细化用作物理AI安全监视器的轻量缓解和诊断工具。