论文

AD-WM:面向反事实模型预测控制的动作判别世界模型

AD-WM: Action-Discriminative World Models for Counterfactual Model Predictive Control

模型训练监督微调与指令调优

摘要

潜在世界模型通常被训练来预测事实性转移,而模型预测控制(MPC)必须从同一状态比较不同备选动作。因此,一个模型可以在事实预测误差很低的同时,却难以区分候选动作。我们提出AD-WM,一个面向反事实MPC的动作判别联合嵌入世界模型。AD-WM将残差潜在动力学与预测器级动作恢复正则相结合,使用逆动力学和受条件互信息启发的归一化恢复目标。两个目标都促使规划转移保留动作信息;其辅助头在测试时被丢弃,MPC本身保持不变。在OGBench-Cube上,AD-WM将困难起步场景的成功率相对匹配的LeWM基线从3.7%提升至52.0%,并在五个仿真环境中的四个里取得了高于复现基线的平均成功率。规划诊断显示,事实预测误差和整体动作排序并不遵循闭环成功率的排序,而与CEM对齐的精英遗憾则与成功率更加一致。配合冻结的V-JEPA 2编码器和匹配的DROID后训练,AD-WM还提升了到我们Franka平台的零样本迁移,在无实验室特定适配的情况下将基础抓放成功率从42.2%提升至71.1%。这些结果表明,面向规划的世界模型应保留反事实选择所需的动作相关差异,而不仅仅优化事实预测精度。更多视频与代码已开源。

AD-WM:面向反事实模型预测控制的动作判别世界模型:论文配图
图 1:面向规划的动作判别。低预测误差可能掩盖候选动作之间的差异。AD-WM 保留与动作相关的变化,以指导面向目标的选择。