论文

LEXP:以任务规划和带适用条件的经验指导真实机器人操作

Learning from Physical Experience:Context-Space Adaptation for Robotic Manipulation

智能体系统上下文与知识应用与实践记忆Agent 规划Agent Harness机器人Agent记忆

摘要

近期多模态基础模型展现出较强感知、推理和上下文学习能力,但把它们转化为物理行动仍有挑战。通过多种真实操作任务实验,我们发现,先进通用推理模型ChatGPT-6-Astra可作为能够执行物理动作、响应上下文的操作策略,完成精细操作和空间推理。基于此,我们提出LEXP,一个通过上下文空间适配从物理经验学习的harness。LEXP将任务级规划与经验模块结合:解释执行证据,提取并保存带适用条件的经验,复用相关经验为后继动作生成上下文反馈。全程固定模型权重与动作接口。在12项真实操作任务中,LEXP成功23/36次(63.9%),仅记忆方案为19/36(52.8%),原始Astra为2/36(5.6%)。在转移面包、分类垃圾和洗漱用品、从抽屉取物三项任务中,去掉规划使成功由7/9降至4/9,去掉保留经验则降至3/9。执行轨迹展示了反馈引导修正和跨回合复用检查策略;执行分析进一步说明,任务结构与经验反馈如何指导任务推进、动作修正及经验复用。结果支持把上下文空间适配作为将物理交互转化为可复用机器人操作指导的实用机制。

LEXP:以任务规划和带适用条件的经验指导真实机器人操作:论文配图
图 4:方法概述。上下文编译器结合了任务指令、当前观察和机器人状态、记忆和经验反馈来调节动作执行策略的下一步行动。实际执行会产生结果和随后的观察结果,这些结果和观察结果将成为以后决策的证据。规划器跟踪任务进度并为当前子任务提出一种方法。经验模块解释了这个任务级结构以及物理证据和保留的经验教训,在提取和修改可重用经验的同时生成上下文反馈。模型权重和动作界面始终保持固定。