论文

CRONOS:视频模型中反事实物理一致性的基准测试

CRONOS: Benchmarking Counterfactual Physical Consistency in Video Models

模型评测基准与评测资源

摘要

视频预测越来越被视为通往通用世界模型的道路,但目前尚不清楚这些系统是学习潜在的因果结构还是仅仅利用表面的视觉相关性来进行未来的预测。我们引入了 CRONOS,这是一种基于干预的基准,旨在评估反事实物理一致性:模型对物理事件的预测是否对视觉输入的受控变化做出适当的响应,例如场景上下文、视点、物体外观和物体类别的变化。 CRONOS 构建在逼真的虚幻引擎环境中,能够跨不同场景和动态生成受控的高保真视频。与之前的基准相比,CRONOS 系统地干预了四个关键因素——视点、场景、对象类别和对象外观——同时保持潜在的物理事件类型(例如碰撞、遮挡或跌倒)固定。我们对最新开源视频生成器的评估揭示了反事实物理一致性的重大失败:相同物理事件类型的预测质量受到外观、环境,特别是视点变化的影响。 CRONOS 提供了一个受控且可重复的测试平台,用于诊断不同干预措施下生成的视频质量如何变化,为开发在多种条件变化下一致执行的模型建立了具体目标。数据集和代码可在我们的项目页面上找到。