论文
ReWeight:通过演示检索和样本加权利用人类数据进行 VLA 后训练
ReWeight: Leveraging Human Data for VLA Post-Training via Demonstration Retrieval and Sample Weighting
摘要
针对特定机器人和任务的训练后视觉语言动作(VLA)模型需要进行域内演示,但收集不同的机器人数据成本高昂。以自我为中心的人类演示提供了一种可扩展的替代方案,但直接混合人类和机器人数据可能会引入跨实体差异并降低政策绩效。为了应对这一挑战,我们引入了 ReWeight,这是一个通过演示级检索和样本级加权将人类数据纳入 VLA 后训练的框架。 ReWeight 学习跨实体的视觉运动表示,将视觉观察与未来动作相结合,以测量人类和机器人演示之间的行为相似性。基于最佳传输,它检索与目标机器人数据相关的人类演示,并为跨实施例差异较小的样本分配较大的权重。我们在干净和随机设置下使用 $π_{0.5}$ 在八个模拟任务和四个现实世界任务中评估 ReWeight。在模拟中,ReWeight 将训练后 $π_{0.5}$ 的平均成功率从仅使用机器人数据的 39% 和使用随机混合人类-机器人数据的 44% 提高到 57%。在物理实验环境中,它的平均成功率为 68.8%,分别比基线高出 28.8% 和 13.8%。总的来说,ReWeight 提供了一个有效的范例,将丰富的以自我为中心的人类经验转化为可转移的机器人学习监督。 (项目网页:https://reweight-vla.github.io/)