环强迫：实现自回归视频扩散的精确长期记忆

将视频生成扩展到较长的持续时间揭示了一个关键瓶颈：当前模型缺乏强大的长期记忆。这种缺陷可以从两个关键方面进行研究：物体持久性，即重返大气层时精确再现物体外观的能力；记忆能力，即处理超长上下文和使用来自遥远历史的信息的能力。强大的长期记忆需要两者：没有足够上下文处理的对象持久性限制了时间范围，而没有持久性的长上下文长度无法保持身份。为了解决这个问题，我们提出了 Ring Forcing，这是一种自回归视频扩散框架，旨在稳健地构建和精确利用长期记忆。我们的环形结构训练策略强制从遥远的历史中检索，有效地协调了严格的历史遵循和生成多样性之间的权衡。为了扩展内存容量，我们引入了压缩和时间步组合策略。在固定序列长度约束下，该方法将有效历史跨度扩展到分钟长的持续时间，并在整个历史上实现了全面的感受野。此外，我们提出了一种稀疏 RoPE 机制，以实现灵活、可扩展的内存适应，同时充分利用预先训练的先验。大量实验表明，环力实现了卓越的长达数分钟的一致性和物体持久性，显着优于最先进的方法。