论文
AdaReP:模型失配下的自适应重新规划神经世界模型预测控制
AdaReP:Adaptive Re-Planning under Model Mismatch for Neural World-Model Predictive Control
摘要
神经世界模型与模型预测控制(MPC)相结合,在每个环境步骤中重新规划,以限制累积的预测误差,但这会产生大量的计算开销。重用缓存的计划可以减少这种开销,但其有效性取决于预测不匹配如何通过本地动态传播。我们用基于扰动的动态遗憾框架分析了这种权衡,并表明过时计划的惩罚随着重用容忍度、自上次重新计划步骤以来累积的不匹配以及局部动态敏感性而变化。基于这种结构,我们提出了 AdaReP,这是一种 无需训练 包装器,它使用与缓存的 rollout 的当前偏差和局部敏感度估计来在线调整重新规划容差,而无需修改学习的世界模型或规划器。在图像空间规划、潜在空间控制和现实世界的机器人操作方面,AdaReP 大大减少了规划器端的计算,同时保持可比较的任务性能,包括在 50 次试验的物理机器人研究中查询量减少了 80% 以上。