论文

GRAFT:针对细粒度机器人操作的扎根且高效的在线强化适应

GRAFT: Grounded and Efficient Online Reinforcement Adaptation for Fine-Grained Robot Manipulation

模型训练强化学习

摘要

预训练的视觉-语言-动作(VLA)策略为机器人操作提供了强有力的先验,但在线调整它们以适应细粒度的生物医学任务仍然具有挑战性。任务的成功通常取决于微妙的、依赖于视图的视觉线索,而任务级别的奖励几乎不能提供关于哪些区域重要的指导,这使得很难从有限的真实机器人交互中学习与任务相关的视觉基础。在线适应进一步受到 VLA 推理和基于重放的更新的计算成本的限制。我们介绍了 GRAFT(快速任务学习的视觉定位强化适应),这是一个通过视觉定位感知实现高效在线 VLA 适应的框架。 Graft 使用区域级监督来学习特定于视图的视觉锚点,这些锚点将感知集中在与任务相关的本地线索上,而不需要在部署时提出区域建议。它进一步将单步动作生成与缓存的视觉语言前缀重用相结合,以加速在线学习。在四项生物医学操作任务中,Graft 在匹配的适应预算下将成功率提高了 32.5 个百分点,同时减少了在线策略更新的计算开销。