论文

三明治残差:世界模型的参数高效测试时适应

Sandwich-Residuals: Parameter-Efficient Test-time Adaptation of World Models

模型训练参数高效训练

摘要

潜在世界模型通过预测学习表示空间中的动作效果来实现规划,但当测试时条件与训练不同时,它们的预测可能会变得不可靠。现有的测试时适应方法通过更新部分预训练模型来解决这个问题,通常会修改数百万个参数并需要选择要适应的内部组件。我们引入了 Sandwich-Residuals,这是一种轻量级的替代方案,可以使预训练的世界模型保持冻结状态,并且仅学习预测器周围的小残差校正。使用模型的自我监督预测误差在线优化残差,不需要奖励、标签或源域数据。在 AdaJEPA 基准的 21 个条件下,我们的方法实现了冻结模型 1.3 美元\倍的成功率,同时保留了最强 AdaJEPA 变体 95% 的性能,并减少了 97-99% 的参数调整。在复合变换下,这一优势增加到冻结模型成功率的 1.9 倍,同时仍与内部块适应相当。我们进一步在用于 3D 操作的 DINO-WM 模型上证明了相同的适应原理。这些结果表明,世界模型的有效测试时适应不一定需要修改其预训练的内部权重。