论文
Streaming4D:通过分块视频生成和增量重建加速 4D 世界模型
Streaming4D: Accelerate 4D World Models via Block-wise Video Generation and Incremental Reconstruction
摘要
当前的 4D 生成范例通常受到顺序解耦设计的瓶颈:首先生成视频,然后进行 3D 重建,从而导致较高的交互延迟。这限制了交互式实时场景中的应用。为此,我们提出了 \textbf{Streaming4D},这是一种紧密耦合的同步管道,它将逐块自回归视频生成与增量 3D 重建集成在一起。与传统的逐帧发射和延迟几何恢复不同,Streaming4D 生成时间视频块并立即触发每个完成的块的重建,从而实现合成和几何更新之间的并行执行。这种方法允许世界表征随着视频流在线发展,减少反馈延迟,同时保持几何保真度。我们使用自强迫式自回归生成器和增量重建后端实例化 \textbf{Streaming4D}。实验表明,在单个 RTX 4090 上,跨分辨率的运行时间得到了一致的改进(1.24$\times$ 加速),同时保持高质量的 4D 几何和多视图一致性。