论文

FlowHijack:对流程匹配视觉语言动作模型的动态感知后门攻击

FlowHijack: A Dynamics-Aware Backdoor Attack on Flow-Matching Vision-Language-Action Models

模型评测安全与风险评测

摘要

视觉-语言-动作 (VLA) 模型正在成为机器人技术的基石,$π_0$ 等流程匹配策略在生成平稳、连续的动作方面显示出巨大的前景。随着这些模型的进步,它们独特的动作生成机制 - 矢量场动力学 - 呈现出一个关键但尚未探索的安全漏洞,特别是后门漏洞。现有的为自回归离散化 VLA 设计的后门攻击不能直接应用于这种新的连续动态。我们推出 FlowHijack,这是第一个系统地针对流匹配 VLA 的底层矢量场动态的后门攻击框架。我们的方法结合了一种新颖的 $τ$ 条件注入策略,该策略可以操纵动作生成的初始阶段,并具有动态拟态正则化器。实验表明,FlowHijack 在之前的工作失败的情况下使用隐秘的上下文感知触发器实现了很高的攻击成功率。至关重要的是,它保留了良好的任务性能,并通过强制运动学相似性,生成在行为上与正常操作无法区分的恶意操作。我们的研究结果揭示了连续具身模型的一个重大漏洞,凸显了针对模型内部生成动力学的防御的迫切需要。