Motus2：用于灵巧操作的自我进化通用世界模型

一般实体主体应该在一个统一的系统内感知、预测、行动、评估和改进。世界模型在构建此类代理方面显示出了巨大的前景，但现有模型通常将动作输出头附加到世界模拟器中，而没有将它们耦合到闭合的决策和学习循环中以改进策略。我们推出了 Motus2，一种用于灵巧操纵的自我进化通用世界模型。 Motus2 通过模型缩放和数据缩放来推进世界建模。对于模型缩放，具有共享权重的单个模型公开三个控制接口：策略（世界动作模型）、模拟器（动作条件世界模型）和评估器（价值模型）。该策略提出候选动作块，模拟器预测其视觉结果，评估器评估预测结果。它们的耦合形成了一个决策和学习的闭环，以促进政策改进。该公式使用精心策划的专家演示来进行行动学习，而失败和次优的交互则为动态建模和价值学习提供了有价值的证据。对于数据扩展，Motus2 从大规模单目自我中心数据发展到同步立体自我中心数据，然后利用机器人轨迹和补充的人机对齐数据进行机器人域适应。 Motus2 进一步研究了其滑动窗口上下文的全局自回归和混合记忆扩展，添加了用于接触感知控制的触觉反馈，并在具有立体视觉、双臂、双灵巧手和触觉感知的完全仿生平台上进行了实例化。以自我为中心的数据扩展和闭环通用世界模型扩展共同提供了一条实现自我进化灵巧操作的通用路径。