通过因果表示学习进行归纳世界建模

世界建模的核心挑战是学习捕捉世界如何演变的表示。然而，现有的世界模型主要代表未来状态，而没有明确捕捉其演化背后的潜在原因，限制了它们推理世界为何以及如何变化的能力。为了解决这个限制，我们提出了溯因世界建模（AWM），这是一个通过从预测的未来中溯因推断潜在原因来学习结构化因果表示的框架。具体来说，我们通过分层溯因状态金字塔（HASP）实现 AWM，它将推断的世界状态组织为三个互补的组件 - 实体、动态和关系 - 分别捕获存在的内容、它如何变化以及实体如何交互。通过对当前观察及其预测的未来进行联合推理，HASP 溯因推断出这些潜在因素，并将它们集成到下游推理的结构化状态表示中。据我们所知，AWM 是第一个将溯因状态推理引入潜在空间世界建模以学习世界动态的结构化表示的框架。物理预测、因果推理和动作理解的实验证明了我们方法的有效性。与最先进的潜在空间世界模型 V-JEPA 相比，AWM 物理预测 AUROC 提高了 10.7%，因果推理精度提高了 16.8%，动作 Top-1 精度提高了 68.0%。