论文

SolarWM:长期视频世界模型的开放数据和可扩展训练

SolarWM: Open Data and Scalable Training for Long-Horizon Video World Models

AI 基础设施数据基础设施

摘要

我们介绍 SolarWM,这是一个完全开放的基础,用于构建从数据准备到长期推理的交互式视频世界模型。跨异构数据源和视频主干的训练具有挑战性:数据集在时间尺度、相机几何、视觉质量、运动和字幕风格方面有所不同,而视频生成器使用不同的表示和架构。因此,简单的数据混合和特定于模型的实现会产生不一致的监督,并使结果难以重现和比较。 SolarWM 通过可重新配置的多源数据引擎和主干原生适配框架解决了这种耦合问题。该引擎将来自 10 个数据集的 143 万个规范剪辑转换为统一的、帧对齐的合同,涵盖视觉观察、度量相机几何、字幕、质量元数据、选择决策和出处,同时将源处理与混合构建解耦。在共享相机调节、训练和推理接口下,我们实例化了基于 Wan2.2、LTX-2.5 和 MiniMax-H3 的四个 5B--33B 模型,同时保留了它们的原生表示和目标。统一的三阶段配方结合了双向适应、教师强制自回归初始化和分布匹配 蒸馏。由此产生的因果模型在仅接受 5 秒序列训练后,可以在几分钟到几小时内进行实时交互。通过发布结果数据、管道、配方、权重和框架,SolarWM 为交互式世界模型研究提供了可重复和可扩展的基础。