重建、实践、走向现实：指导具身Agent的自我完善

在不同的任务中构建可靠的机器人能力需要大量的人力来开发和维护技能、设计奖励以及将感知与控制相结合。我们提出了 Reconstruct、Practice、Go Real (RPG)，这是一个无需更新模型权重即可自主改进机器人执行系统的框架。 RPG识别离线数据集中的操作能力并在模拟中构建相关的练习任务。在练习过程中，RPG 使用执行反馈、特权模拟器状态和可用的数据集视频来诊断故障。它开发新的可重复使用的符号技能，完善现有技能，并根据这些诊断修改系统提示。跨任务评估在保留各个候选更改和合并修订之前对其进行测试以供重用。在测试时，多模态大语言模型使用生成的系统提示和技能库来协调感知和机器人控制。在 22 个操作任务的保留初始化中，RPG 将任务成功率从第一轮练习后的 28.6% 提高到 15 轮后的 95.0%，优于所有评估的基线，包括 ASPIRE (75.5%) 和由 GPT-6 Astra Pro 提供支持的 CaP-Agent0 (60.0%)。经过通用校准和硬件适应程序后，冻结系统在所有 30 次物理试验中取得了成功，其中三项任务每项进行了十次试验。项目网址：https://rpg-robot.github.io/