论文
DREAM:通过 Real-to-Sim 生成部署时演示,以实现可扩展的策略适应
DREAM: Deployment-Time Demonstration Generation via Real-to-Sim for Scalable Policy Adaptation
摘要
视觉-语言-动作 (VLA) 模型在语言条件机器人操作方面取得了长足进步,但提高其在新工作空间中的性能仍然通常需要来自该环境的动作标记数据。通过人工远程操作收集此类数据的成本很高,尤其是当每个工作空间、对象布置或任务可能需要新的演示时。我们提出了 DREAM,这是一个框架,可以从捕获的工作空间和语言指令为预训练的 VLA 生成 微调 数据,而不需要特定于任务的人工演示。 DREAM 重建工作空间,使用 大语言模型 自动将指令转换为符号任务目标和成功标准,并使用任务和运动规划生成可行的机器人轨迹。规划的轨迹在随机对象配置中得到增强,通过生成的成功标准进行验证,并呈现为 VLA 微调 的图像动作示例。通过针对语言条件操作任务的真实机器人实验,我们研究了 DREAM 是否可以作为部署工作空间的可扩展数据收集系统,方法是检查 微调 自动生成的数据是否比直接部署更成功,以及在将 VLA 适应新工作空间时,其数据收集成本与人工远程操作相比如何。