可验证的机器人安全基础模型

部署用于机器人控制的基础模型提出了一个核心挑战：实现丰富的多模态感知的表达能力也使这些模型不透明且难以正式分析，从而使现有验证工具难以处理。在本文中，我们提出了 FEARL（Foundation-Enabled Assured Robot Learning），这是一个通过模块化架构分解来解决这种紧张关系的框架。 FEARL 将策略分为负责高维感知和任务推理的大型控制器 (C) 和小型安全模块 (S)，后者接收来自专用安全传感器的低维观察结果以及来自 C 的有界上下文嵌入并产生最终操作。由于许多机器人安全要求（例如避免碰撞和工作空间边界约束）可以通过这些安全传感器观察来表达，因此形式验证可以应用于 S 而不是完整的基础模型主干。这使得形式分析可以使用现有工具进行处理，同时保留控制器用于任务推理的表达能力。为了表明分解后的策略仍然能够解决不同的任务，我们使用多个控制器骨干和训练程序（包括预训练的现成视觉语言动作模型）在三个模拟机器人领域上评估 FEARL。我们进一步将学习到的策略从模拟任务之一转移到物理机器人，这表明低维安全接口支持实际的模拟到真实的转移。