!Imperio，smolVLA：数据中毒对开源机器人的影响

这项工作证明视觉语言动作模型的触发词数据中毒是可行的，同时开源机器人生态系统对社区贡献持有信任假设。一些有毒的样本可以悄悄地嵌入后门，从而根据命令禁用机器人。我们在现实世界的拾取和放置任务中评估了针对 smolVLA 的这种威胁，对三种毒物比率进行训练，并在 LeRobot 平台上的不同提示下进行评估。 320 个正常事件中的 3 个中毒事件足以导致完全拒绝服务。在所有触发字条件下，成功率下降至 0.0 加负 0.0%，并且机器人锁定固定关节配置，而不是执行任何与任务相关的运动。清洁提示行为保持在大约。所有毒药比率的成功率为 50%，确认攻击在正常操作下是隐秘的。单次中毒事件已将成功率降低至 6.7 ± 6.7%。机器人仍然在移动，但不再完成任务。尽管专门针对前置扳机进行了训练，但攻击仍适用于前置、中置和末端扳机位置。这些发现表明，这种威胁是实际的、低成本的、隐蔽的，并且有理由将数据集来源视为开源机器人生态系统中的首要问题。