论文

注意执行差距:世界模型控制中的动作语义不匹配

Mind the Execution Gap: Action-Semantic Mismatch in World-Model Control

摘要

世界模型控制器依靠动作条件动力学进行预测和规划,但实际控制系统通常由于通信延迟、数据包丢失、重新排序和执行器缓冲而异步执行命令。我们研究异步执行如何改变世界模型控制器中假设的动作语义,而不是仅将其视为外部控制干扰。通过受控干预,我们确定了两种依赖于架构的故障模式:基于规划的控制器(例如 TD-MPC2)会遭受想象的和执行的动作序列之间未来动作时间线不匹配的问题,而循环世界模型(例如 DreamerV3)可以将观察到的转换归因于实际未应用的命令。我们的分析表明,TD-MPC2 需要在潜在动态执行轨迹期间正确的未来动作序列,而 DreamerV3 需要及时将每个转换归因于生成它的动作。基于这些发现,我们引入了两个轻量级执行一致的接口,即 TD-MPC2 的 Future-Sequence 和 DreamerV3 的应用操作反馈,它们可以在不修改预训练的世界模型的情况下纠正这些不匹配。跨延迟、数据包丢失、重新排序、多个控制域、测量的网络跟踪和进程分离的异步堆栈的实验始终支持诊断和相应的特定于体系结构的校正。

注意执行差距:世界模型控制中的动作语义不匹配的原论文方法或结果图
图 5:我们执行一致的世界模型控制框架概述。