论文

联合嵌入预测世界模型的反事实动作评估

Counterfactual Action Evaluation, Observation Bottlenecks, and Representation Geometry in Joint-Embedding Predictive World Models

模型评测评测方法与指标

摘要

低潜预测误差并不能确立世界模型区分其动作的后果。我们引入一个评估协议:把同一干预追踪过模拟器状态、栅格观测、目标嵌入与预测器输出。受控可变形物理试验床中的精确模拟器状态分叉揭示出不同瓶颈:改变的命令改变了粒子运动,但41.5%的单步栅格对完全相同。观测损失也不是全部解释:579个高可见度反事实中,两个种子的预测器-目标响应中位数仅0.0051与0.0217,方差归一化后降至0.0027与0.0116。与目标反事实嵌入偏移匹配的各向同性状态扰动在同一可见对上产生190倍与53倍更大的预测器变化——分离出动作路径欠用,而非预测器死亡或全局收缩。仅MSE训练在匹配种子下给出8.36倍更低的10步潜误差,但发生在谱集中的空间;一个VICReg目标编码器也强烈集中,因此误差或秩单独都不能认证物理状态。最后,即使从全分辨率栅格与力学状态,刚度仍接近随机,而特权材质参数完美解码——表明该激励下可识别性弱而非编码器丢弃。结果激励分别审计物理效应、观测可见性、表示几何与动作依赖。