论文

分解与重组:从跨任务机器人操作的现有能力中推理出新技能

Decompose and Recompose: Reasoning New Skills from Existing Abilities for Cross-Task Robotic Manipulation

智能体系统Agent Skills

摘要

跨任务泛化是开放世界机器人操纵的核心挑战,关键在于从看到的任务中提取可转移的操纵知识。最近的上下文学习方法利用已见的任务演示来为未见的任务生成操作,而无需更新参数。然而,现有方法仅提供低级连续动作序列作为上下文,无法捕获可组合的技能知识并导致模型退化为肤浅的轨迹模仿。我们提出了分解和重组,这是一种使用原子技能-动作对作为中间表示的技能推理框架。我们的方法将看到的演示分解为可解释的技能——动作对齐,使模型能够通过组合推理为看不见的任务重新组合这些技能。具体来说,我们通过视觉语义检索结合规划代理的技能序列构建了一个任务自适应动态演示库,并辅以覆盖感知静态库来填补缺失的技能模式。这些共同产生了技能综合演示,明确地引发了技能构成和执行顺序的构成推理。 AGNOSTOS 基准和真实环境的实验验证了我们方法的零样本跨任务泛化能力。