论文

WorldSimProbe:在动作条件世界模型中诊断模拟器 忠实性 以实现具体操作

WorldSimProbe: Diagnosing Simulator Faithfulness in Action-Conditioned World Models for Embodied Manipulation

模型评测基准与评测资源

摘要

行动条件世界模型 (ACWM) 有望为具体人工智能提供可扩展的预测模拟器,用于规划、政策评估和数据生成。实现这一承诺需要精确的行动条件转换,而不仅仅是看似合理的输出。然而,它们的适用性仍然难以确定,因为流行的评估强调视觉质量、任务结果或粗略的轨迹级响应性,而不直接测试模拟器保真度。为了弥补这一差距,我们通过物理模拟器预期的可观察功能来评估 ACWM。因此,我们形式化了可观察模拟器契约,这是任何以动作为条件的物理模拟器都应满足的最小契约:提供的动作必须引起相应的代理运动,并且环境响应必须基于所实现的运动。为了实施该合同,我们引入了 WorldSimProbe,其中包括五个受控套件,涵盖本地控制灵敏度、全局轨迹变化、源多样化动作、交互基础和动力学。套件特定的评估器评估模拟器相对校准、密集的动作与运动对应、错误交互基础和原始级动态。我们在 RoboTwin、ManiSkill 和 LIBERO 的 18,000 多个实例上评估了 6 个开源 ACWM。 World-SimProbe 揭示了控制变化中系统性的行动实现退化、交互基础和动力学中的结构化故障以及与人类判断和下游结果一致的基准信号。总之,这个基于能力的框架提供了一个透明的、标准化的范例,用于诊断 ACWM 模拟器保真度,超越粗略的、任务导向的评估。