论文

Warp-as-History:从一个训练视频生成可推广的摄像机控制视频

Warp-as-History: Generalizable Camera-Controlled Video Generation from One Training Video

上下文与知识上下文工程

摘要

摄像机控制的视频生成取得了实质性进展,使生成的视频能够遵循规定的视点轨迹。然而,现有方法通常通过相机编码器、控制分支或注意力和位置编码修改来学习特定于相机的调节,这通常需要在大规模相机注释视频上使用 后训练。 无需训练 替代方案避免了此类 后训练,但通常将成本转移到测试时间优化或额外的去噪时间指导上。我们提出了 Warp-as-History,这是一个简单的界面,通过目标帧位置对齐和可见标记选择,将相机引起的扭曲转换为相机扭曲的伪历史。给定目标摄像机轨迹,我们根据过去的观察构建摄像机扭曲的伪历史,并将其通过模型的视觉历史路径提供。至关重要的是,我们将其位置编码与去噪的目标帧对齐,并在没有有效源观察的情况下删除扭曲的历史标记。无需任何训练、架构修改或测试时优化,该界面就揭示了冻结视频生成模型跟踪摄像机轨迹的非凡零镜头能力。此外,仅对一个摄像机注释视频进行轻量级离线 LoRA 微调进一步提高了这一能力,并将其推广到未见过的视频,从而提高了摄像机的依从性、视觉质量和运动动态,而无需测试时间优化或目标视频适应。对不同数据集的广泛实验证实了我们方法的有效性。