论文
KineBench:通过无 IDM 运动学映射对具身世界模型进行基准测试
KineBench: Benchmarking Embodied World Models via IDM-Free Kinematic Grounding
摘要
评估具身世界模型(EWM)的物理一致性是一个关键的开放挑战。虽然通过模拟器执行轨迹的闭环评估比开环替代方案提供了更忠实的物理合理性评估,但现有框架几乎完全依赖逆动力学模型(IDM)来进行动作提取。由于从 2D 像素空间到 3D 运动学空间的复杂映射,学习的 IDM 可能对其训练分布之外的数据很脆弱,从而导致从生成的具有新颖对象和场景的视频中提取不可靠的动作。这在世界模型不准确和提取器错误之间造成了不可避免的归因模糊性。为了减少这种模糊性,我们推出了 KineBench,这是一种用于 EWM 的无 IDM 闭环基准测试,建立在显式运动学映射管道的基础上。给定生成的视频,KineBench 采用级联视觉基础模型直接从各个帧中提取 6D 末端执行器姿势,然后在物理模拟器中执行以进行闭环验证。除了基于执行的任务成功之外,KineBench 还结合了两个经典的 3D 运动学指标——光谱弧长 (SPARC) 和 Maruyama 可操作性指数——从以机器人为中心的角度来表征轨迹平滑度和运动学可行性。 KineBench 基于 ManiSkill3 中的 20 个不同的操作任务构建,可跨四个渐进套件评估 EWM:基本执行、任务传输、视觉分布外泛化和复杂性条件缩放。跨前沿模型的评估揭示了具体视频生成中任务复杂性有限的非线性缩放,为未来的数据缩放策略提供了经验指导。