论文

GAUGE:以测量为依据评测仿真引擎与视频世界模型的物理保真度

GAUGE: A Measurement-Grounded Benchmark for Physical Fidelity in Simulation Engines and Video World Models

模型评测基准与评测资源

摘要

物理引擎在大规模训练和评估行动智能体方面发挥了重要作用,而生成式视频世界模型则作为一种未来状态和交互的隐喻性模拟器。然而,现有的物理相似性评估通常是在孤立环境中进行,并依赖于感知相似性或人类判断,提供有限的洞察力,揭示哪些物理原理或参数被违反。我们引入了GAUGE,这是一个基于现实世界的诊断基准,用于同时评估数值模拟器和生成式视频世界模型是否再现或偏离现实世界的物理定律。它涵盖了22个控制任务家族,包括刚体、柔性缆线、纺织品和体积可变形物体。基于现实轨迹并配以校准的物理元数据、不确定性注释和任务特性的观测指标,这些任务覆盖了基本的物理过程,如碰撞、摩擦、动量传递、振动、自接触和变形,以及不同材料和条件下的多样物理现象。我们使用泛化轨迹误差评估Isaac Sim、Genesis和Newton在14个任务家族中的表现,并通过测试物理定律一致性来评估6个图像到视频模型在5个刚体任务上的性能。我们的结果表明没有统一的物理引擎,最大的差异出现在冲击性接触、快速纺织品运动以及体积变形上。我们还发现生成式视频世界模型可以产生符合预期方程形式的轨迹,同时恢复错误的加速度、动量传递和振荡时间点。GAUGE为开发更真实的模拟器和世界模型奠定了基础,以支持行动智能体的发展。

GAUGE:以测量为依据评测仿真引擎与视频世界模型的物理保真度:论文配图
图 1:GAUGE 概述。受控的现实世界实验为刚体、纺织品和体积变形体提供校准的物理元数据和运动捕捉地面实况。物理引擎轨道(左)将匹配模拟场景的轨迹与真实测量结果进行比较。视频世界模型轨道(右)根据初始帧和提示生成未来运动,然后根据物理定律和参数评估跟踪的运动。