论文

SkillWeaver:在神经交互技能上进行Agentic探索以扩展机器人数据生成

SkillWeaver: Agentic Exploration over Neural Interaction Skills for Scalable Robot Data Generation

模型训练合成数据

摘要

大规模演示推动了机器人学习方面前所未有的进步,但通过远程操作收集机器人数据成本高昂,而且难以扩展到不同的环境和长期任务。仿真提供了一种可扩展的替代方案,但现有的数据生成管道通常依赖于开环控制器、脚本化技能序列或特定于任务的程序。我们引入了 SkillWeaver,这是一个 Agentic 框架,它通过探索神经交互技能(NIS)来自动生成机器人体验:可重用、参数化、闭环策略,将学习到的物理交互能力暴露给推理Agent。给定一个任务和一个模拟环境,VLM Agent会推理下一步要做什么,调用和参数化 NIS 以与环境交互,观察其结果,并生成验证、反射和记忆来指导后续探索。我们将 NIS 实例化为用于闭环、接触丰富的操作的强化学习策略,并将探索组织为验证者引导的树搜索,使Agent能够发现成功的长期行为,而无需依赖预定的执行管道。 SkillWeaver 可自主扩展到 14,100 个场景中的 39,100 个演示,我们将其提炼为视觉运动策略。在模拟基准和现实世界操作中,对 SkillWeaver 生成的体验进行训练可显着提高对新物体、空间配置、任务和环境的泛化能力,并实现零次和少次模拟到模拟以及模拟到真实的迁移。我们的结果表明 Agentic 探索神经交互技能作为机器人数据生成的可扩展替代方案。