论文
BiWM:利用双向自回归推进开源交互式视频世界模型
BiWM: Advancing Open-Source Interactive Video World Models with Bidirectional Autoregression
摘要
交互式视频世界模型通常通过控制 微调、自回归训练、因果初始化和几步 蒸馏 将双向视频生成器转换为因果自回归系统。这条管道成本高昂,而冻结的因果历史会积累错误,从而降低长期保真度和可控性。我们推出 BiWM,这是第一个用于双向自回归视频世界模型的开源全栈训练框架。 BiWM 在每个生成的块中保留充分的注意力,并且只需要两个阶段:相机/动作控制 微调 和几步分布匹配 蒸馏 (DMD)。两个阶段在 8 个 H200 GPU 上的几百个优化器步骤内收敛。该框架支持Wan2.1-T2V-1.3B、Wan2.2-TI2V-5B、HunyuanVideo-1.5-TI2V-8B和LTX-2.3-22B,以及真实的摄像机控制、可插拔的长历史压缩和可选的低位部署。受监督和前向 KL 锚点可减轻 DMD 模式崩溃并保持场景动态。 BiWM 提供了一条从预训练的双向视频模型到交互式、可控且高效的世界模型的紧凑、可重复的路径。