论文
HERA:用于潜在世界模型中物理预测的历史证据路由适配器
HERA: Historical Evidence Routing Adapter for Physical Prediction in Latent World Models
摘要
通过从大规模视频中学习潜在的视觉动态,预测视频模型已成为有前景的世界模型。然而,这些模型仍然受到遮挡下物理事件的挑战,以后的预测可能取决于当前视图中不再可用的物体证据。应对这一挑战不仅需要保存历史证据,而且还需要在与后续预测相关时保持可访问性。现有方法主要扩大时间上下文、缓存通用视频特征或施加明确的以对象为中心的状态,从而提高保留历史的容量或结构。然而,它们并没有直接解决如何选择性地检索相关历史证据并将其集成到预训练的预测器中,而不干扰其本地潜在工作空间。因此,我们引入了 HERA(历史证据路由适配器),这是一个用于将保留的历史证据路由到冻结潜在预测器中的框架,并使用寄存器路由补丁内存(RRPM)对其进行实例化,这是一个由结构化内存库、内存寄存器和工作空间寄存器组成的轻量级适配器。在 IntPhys2 Main split 上,具有 RRPM 的 HERA 将 V-JEPA 2-G 的成对 AvgSurprise 准确度从 52.57% 提高到 54.35%。亚组分析显示,固定相机连续性从 46.15% 提高到 57.69%,固定相机不变性从 46.15% 提高到 63.46%。这些结果支持历史证据路由作为潜在世界模型中物理预测的实用适应策略。