论文
X-Cache:用于少步自回归世界模型推理的跨块块缓存
X-Cache: Cross-Chunk Block Caching for Few-Step Autoregressive World Models Inference
摘要
实时世界模拟正在成为自动驾驶系统可扩展评估和在线强化学习的关键基础设施。最近基于自回归视频扩散构建的驾驶世界模型实现了高保真、可控的多摄像头生成,但其推理成本仍然是交互式部署的瓶颈。然而,现有的扩散缓存方法是为具有多个去噪步骤的离线视频生成而设计的,并且不能转移到这种场景。少步蒸馏模型没有留下可供这些方法重用的步骤间冗余,并且序列级并行化技术需要闭环交互式生成所无法提供的未来条件。我们提出了 X-Cache,一种 无需训练 加速方法,它沿着不同的轴进行缓存:跨连续的生成块而不是跨降噪步骤。 X-Cache 维护跨块持续存在的每块残留缓存,并在结构和动作感知的块输入指纹上应用双度量门控机制,以独立决定每个块是否应该重新计算或重用其缓存的残留。为了防止近似错误永久污染自回归 KV 缓存,X-Cache 识别 KV 更新块(将干净的键和值写入持久缓存的前向传递)并无条件强制对这些块进行完整计算,从而切断错误传播。我们在 X-world 上实现了 X-Cache,X-world 是一个生产多摄像头动作条件驾驶世界模型,构建在多块因果 DiT 上,具有几步降噪和滚动 KV 缓存。 X-Cache 实现了 71% 的块跳跃率和 2.6 倍的挂钟加速,同时保持最低的性能下降。