论文
CausalWAM以稀疏动作路由将控制相关潜因与场景预测分开
CausalWAM: Learning the Causes of Actions in World Action Models
摘要
世界动作模型 (WAM) 从观察中学习潜在变量,并使用这些变量来预测场景的演变并生成动作。预测必须是整个场景,而只有场景的一部分会导致动作。一般来说,在示范数据上拟合的 WAM 并不能保证它们仅根据演示动作的潜在原因(与动作相关的潜在变量)生成动作,因为模型也可以学习以这种方式进行模仿,同时将与动作相关的潜在变量与干扰变量纠缠在一起。因此,我们将导致行动的因素与预测所依赖的因素分开。我们证明,在稀疏性约束下,用于生成动作的潜在变量是单独与动作相关的潜在变量的可逆函数,并能在潜变量置换的不确定性之外识别真实结构。这既不需要充分的时间依赖,也不对未观测机制状态的演化方式作任何假设;即使动作相关潜变量与其余变量存在统计依赖,结论也成立。因此,我们提出了 CWAM(Causal WAM),它通过向其动作头添加稀疏路由路径,将约束合并到预训练的 WAM 中,同时世界建模目标保持不变。对合成数据和现实世界机器人的实验验证了该理论,并展示了闭环成功中效率的提高。
