SafeLoop：视觉-语言-动作操作的风险感知回滚

最近的视觉-语言-动作（VLA）模型有望用于通用操作，但长期执行仍然脆弱。小的状态估计或控制错误可能会导致不可逆转的故障（例如碰撞和物体掉落）。避免这些风险需要能够预测危险的主动安全机制。在本文中，我们介绍了 SafeLoop，这是一种非侵入式外部包装器，它在不更改其参数的情况下向 VLA 模型添加了危险预测和基于回滚的恢复。 SafeLoop 通过视觉和本体感觉训练风险预测器，输出四个值：身体碰撞和物体故障的概率和危险时间。然后，轻量级控制器根据预测的风险选择三种操作之一：继续执行（noop）、保存安全检查点（记录）或退回联合空间（回滚）。回滚将机器人移回最近的安全路径点并再次查询基本策略，这可能会产生替代的延续。在 24 个 LIBERO 任务（每个任务 16 个随机种子）和三个真实机器人任务（每个任务 25 个部署）中，SafeLoop 实现了比其他方法更强的整体安全与成功权衡，将危险情况减少了约 70%，同时保持了任务成功率和基本策略控制率。项目代码可从此 https URL 获取。