论文

CausalWAM以稀疏动作路由将控制相关潜因与场景预测分开

CausalWAM: Learning the Causes of Actions in World Action Models

模型训练应用与实践监督微调与指令调优机器人

摘要

世界动作模型 (WAM) 从观察中学习潜在变量,并使用这些变量来预测场景的演变并生成动作。预测必须是整个场景,而只有场景的一部分会导致动作。一般来说,在示范数据上拟合的 WAM 并不能保证它们仅根据演示动作的潜在原因(与动作相关的潜在变量)生成动作,因为模型也可以学习以这种方式进行模仿,同时将与动作相关的潜在变量与干扰变量纠缠在一起。因此,我们将导致行动的因素与预测所依赖的因素分开。我们证明,在稀疏性约束下,用于生成动作的潜在变量是单独与动作相关的潜在变量的可逆函数,并能在潜变量置换的不确定性之外识别真实结构。这既不需要充分的时间依赖,也不对未观测机制状态的演化方式作任何假设;即使动作相关潜变量与其余变量存在统计依赖,结论也成立。因此,我们提出了 CWAM(Causal WAM),它通过向其动作头添加稀疏路由路径,将约束合并到预训练的 WAM 中,同时世界建模目标保持不变。对合成数据和现实世界机器人的实验验证了该理论,并展示了闭环成功中效率的提高。

CausalWAM以稀疏动作路由将控制相关潜因与场景预测分开:论文配图
图1:动作仅依赖潜在状态中的一个子块,CWAM通过稀疏路径将该子块的估计送入动作头。(a)在式1的世界动作过程中,该子块为st,IA;学习器(f̂,π̂)从观测中将其估计为紧凑状态Ct。(b)CWAM保留Cosmos 3的联合整流流训练,并在无噪上下文token上添加稀疏路由器,路由所得top-k token构成Ct。灰色虚线表示通往动作头的稠密路径,默认策略仍保留该路径。