论受控世界模型的可识别性

世界模型是一种很有前途的工具，可以在高维观察和候选行动下推断环境动态。最近，LeCun 的 JEPA 为学习表示空间中的此类模型提供了一个引人注目的框架。其动作条件扩展在视觉控制和潜在空间规划中发挥着核心作用，但留下了一个基本问题：它能否从非线性观测中恢复受控动态？本文提出了具有高斯潜在状态的受控世界模型的联合可识别性条件，该条件由两个耦合组件组成：（1）表示可识别性和（2）转移可识别性。前者取决于光谱分离特性，而后者与条件作用的非简并变化有关。我们证明，当这个条件成立时，最小化 LeJEPA 式的预测目标可以恢复正交变换意义上的潜在状态和受控动态。我们进一步证明过渡预测误差的上限与光谱分离裕度成反比。我们还描述了反事实预测误差可达到的放大程度，该误差与最弱的条件动作激励裕度成反比。理论预测在四种非线性观测设置中得到了经验支持。