论文
库普曼梦想家:稳定世界模型想象力的光谱约束潜在动力学
Koopman Dreamer: Spectrally Constrained Latent Dynamics for Stable World-Model Imagination
摘要
潜在世界模型通过优化想象的潜在轨迹的策略来提高连续控制中的样本效率,但常见的神经转换对长期部署中的模态持久性和错误积累提供有限的直接控制。我们提出了 Koopman Dreamer,这是一种具有光谱约束的确定性潜在动力学核心的 Dreamer 风格的世界模型。其受库普曼启发的主干使用二维旋转——具有有界半径的缩放块来表示阻尼、旋转和近周期模式。线性和低秩双线性作用项捕获全局和状态相关的控制效果,而随机状态调制提供局部校正信息。为了减少后验条件训练和仅先验想象力之间的不匹配,该模型将后验条件 EMA 教师目标与一步一致性、多步预测轨迹和开环观察预测目标相结合。我们进一步推导了多步预测轨迹误差界限,将谱主干的放大和双线性相互作用与随机状态失配和建模残差的相加效应分开,阐明了误差衰减和长期信息保留之间的权衡。 DeepMind控制套件和无人机激光雷达自主导航的本体感觉连续控制任务的实验结果表明,Koopman Dreamer提高了长视界潜在预测轨迹的稳定性,并在依赖高质量多步想象的任务上实现了更强的闭环控制性能。