循环世界模型

当前的世界模型面临着根本性的紧张：忠实的长期模拟需要深度计算，但更深的模型部署成本高昂，并且容易出现复合错误。我们通过引入循环世界模型（LoopWM）来解决这个问题，这是第一个用于世界建模的循环架构。我们的方法通过参数共享的 Transformer 块迭代地细化潜在环境状态。与采用自适应计算的传统方法相比，参数效率高达 100 倍，自适应计算可自动缩放深度以匹配每个预测步骤的复杂性。与缩放模型大小和训练数据正交，LoopWM 将迭代潜在深度建立为世界模拟的新缩放轴，这可能会显着推动社区向前发展。