论文

WorldKV:具有世界检索和压缩功能的高效世界记忆

WorldKV: Efficient World Memory with World Retrieval and Compression

模型推理KV Cache

摘要

自回归视频扩散模型实现了实时的、以动作为条件的世界生成。然而,维持一个持久的世界,重新审视以前的观点会产生一致的内容,仍然是一个悬而未决的问题。完整的 KV 缓存注意力保留了这种一致性,但打破了实时限制:内存占用和注意力成本随着采样轨迹长度线性增长。滑动窗口推理恢复了吞吐量,但放弃了长期一致性。我们提出了 WorldKV,一个 无需训练 框架,包含两个组件:世界检索和世界压缩。 World Retrieval 将被逐出的 KV 缓存块存储在 GPU/CPU 内存中,并通过相机/动作对应选择性地检索场景相关块,将它们插入到本机注意力窗口中而不需要重新编码。世界压缩通过与锚帧的键-键相似性来修剪每个块内的冗余标记,将每个块的存储量减半,以在固定预算下容纳两倍的历史记录。在 Matrix-Game-2.0 和 LingBot-World-Fast 上,WorldKV 以大约 2 倍的吞吐量匹配或超过全 KV 内存保真度,并且与没有任何 微调 的内存训练基线具有竞争力。项目页面:https://cvlab-kaist.github.io/WorldKV/