论文

提示:长视野机器人操纵的人类意图

HINT: Human-Intent Inception for Long-Horizon Robot Manipulation

智能体系统Agent 架构与控制循环

摘要

人类可以通过整体指令执行复杂的操作,同时不断适应不断变化的视觉观察。然而,当前的视觉语言动作(VLA)模型和其他动作策略很难在密集、不断发展的视觉输入和稀疏语言指导下实现这种高级智能行为。然后,视觉相关性可以主导语义意图,导致行动遵循视觉捷径而不是人类目标。我们提出了 HINT(Human-INTent INcepTion),这是一种受人类操作原理启发的代理框架:语义意图在操作模式转换时很少变化,而连续控制主要取决于不断发展的物体与手的关系。 HINT 仅在模式转换时调用语义推理来解决当前的子任务和目标,然后通过多视图基础和视觉跟踪来维持此承诺。我们探索了两种视觉界面——图像空间语义突出显示和注意优先注入——将跟踪的意图传达给动作策略,而无需在基础动作模型中引入额外的可训练参数。三个长期任务和分布外变体的实验表明,HINT 极大地提高了两个基础策略的意图理解、任务进度和端到端成功,同时保持低延迟控制。项目页面:https://robot-hint.github.io/