论文

PhysVid:生成视频模型的物理感知局部调节

PhysVid: Physics Aware Local Conditioning for Generative Video Models

模型推理解码与生成控制

摘要

生成视频模型实现了高视觉保真度,但常常违反基本物理原理,限制了现实世界环境中的可靠性。先前注入物理的尝试依赖于调节:帧级信号是特定于域的且短视野的,而全局文本提示是粗糙且嘈杂的,缺少细粒度的动态。我们提出了 PhysVid,一种物理感知的局部调节方案,可在时间上连续的帧块上运行。每个块都用基于物理的状态、交互和约束描述进行注释,这些描述通过训练期间的块感知交叉注意力与全局提示融合。在推论中,我们引入了负面的物理提示(对当地相关违法行为的描述),以引导一代人远离难以置信的轨迹。在 VideoPhy 上,PhysVid 比基准视频生成器提高了物理常识分数 $\约 33\%$,在 VideoPhy2 上提高了 $\约 8\%$。这些结果表明,本地的物理感知指导极大地提高了生成视频的物理合理性,并标志着向基于物理的视频模型迈出了一步。