论文
ActSafeGuard:流量匹配策略的可微分和训练一致的约束执行
ActSafeGuard: Differentiable and Training-Aligned Constraint Enforcement for Flow-Matching Policies
摘要
视觉-语言-动作(VLA)和世界动作模型(WAM)在通用机器人操作方面表现出了强大的能力,但它们生成的动作可能违反严格的物理约束,因此部署不安全或不可行。现有的安全方法要么在没有确定性每步保证的情况下优化统计安全目标,要么仅在推理过程中纠正不安全行为,从而在策略训练和执行之间造成不匹配。我们引入了 ActSafeGuard,这是一个可区分且与训练一致的保护层,用于基于流量匹配的策略。 ActSafeGuard 将硬行动可行性集成到策略学习中,而不仅仅是将安全性视为推理时的外部组件。通过分析射线缩放算子设计,ActSafeGuard 支持边界感知梯度来引导模型自然地学习约束流形。在多个标准基础骨干($π_{0.5}$ 和 Fast-WAM)上跨各种任务进行的广泛实验表明,ActSafeGuard 始终能够实现 $100\%$ 的步骤安全率,同时完全保持甚至提高任务成功率,为安全的嵌入式 AI 部署提供可扩展的微创解决方案。