通过屏障增强流匹配的安全视觉语言动作模型

本文提出了一个模块化推理框架，它将流匹配生成模型与正式的控制屏障函数 (CBF) 安全保证集成在一起。与将外部安全过滤器应用于模型最终输出的现有方法不同，我们的方法修改了模型内的流量匹配去噪过程，以固有地生成安全轨迹。通过采用平滑的对数和指数聚合屏障，我们增强了整个操作块的安全性。这种聚合屏障确保计算开销的增加最小化，并且不会改变模型的语义意图。我们表明，在所提出的框架内，生成的分布和目标分布之间的 2-Wasserstein 距离仍然有界。我们的方法消除了对特定安全数据集或昂贵的模型再训练的需求，为安全推理提供了通用的解决方案。我们在两个机器人操作平台和 2D 导航基准上验证了该方法，验证我们的框架在不降低模型成功率的情况下实现了可靠的安全性。