RoboPhys-3D:通过 3D 重建进行全面的具体世界模型评估
RoboPhys-3D: A Comprehensive Embodied World Model Evaluation via 3D Reconstruction
摘要
视频世界模型越来越多地充当实体 AI 的数据引擎、动作规划器和模拟器,但传统的实体世界模型 (EWM) 基准缺乏统一的基于 3D 的协议来确定生成的预测轨迹是否保留底层 3D 场景状态或转化为可执行动作。我们推出了 RoboPhys-3D,这是一个基于 RoboTwin 2.0 构建的基于 3D 的 EWM 基准测试,涵盖四个体系中的 50 个操作任务,包含 5,000 个片段和 25,000 个多视图 真值 视频。 RoboPhys-3D 的一个定义特征是生成的视频和 真值 视频通过相同的 3D 重建管道进行处理,从而能够区分重建引起的误差和生成引起的误差。 RoboPhys-3D 基准测试将 50 个互补指标组织成跨四个级别的 18 个子维度:像素级保真度、3D 几何一致性、状态级理解和任务级完整性。我们进一步介绍了 Average Full Score(平均满分)和 RoboPhyscore(一种对所有 50 个指标进行综合评估的平均分)和 RoboPhyscore(一种紧凑的任务对齐分数,对与任务成功最密切相关的指标进行平均)。在四个具有代表性的视频世界模型中,Cosmos 3 获得了最高的 RoboPhyscore(0.6330,真值 的 92.7%),而基于状态和执行的指标揭示了基于感知和视觉语言模型的判断无法捕获的重大缺陷。 RoboPhyscore 进一步表现出与人类评估的强烈一致性(Pearson r = 0.9761 和 Spearman \r{ho} = 0.8962),证明了扎根、执行意识评估对 EWM 能力的重要性。