论文
MoRight:正确完成运动控制
MoRight: Motion Control Done Right
摘要
生成运动控制视频(用户指定的动作在自由选择的视点下驱动物理上合理的场景动态)需要两项功能:(1)解开运动控制,允许用户单独控制对象运动并调整摄像机视点; (2) 运动因果关系,确保用户驱动的动作触发其他对象的连贯反应,而不仅仅是移动像素。现有方法在两个方面都存在不足:它们将相机和物体运动纠缠成单个跟踪信号,并将运动视为运动位移,而不对物体运动之间的因果关系进行建模。我们引入了 MoRight,一个统一的框架,通过解缠结的运动建模解决了这两个限制。对象运动在规范静态视图中指定,并通过时间交叉视图注意转移到任意目标相机视点,从而实现分离的相机和对象控制。我们进一步将运动分解为主动(用户驱动)和被动(结果)组件,训练模型从数据中学习运动因果关系。在推理时,用户可以提供主动运动,MoRight 预测结果(正向推理),或者指定所需的被动结果,MoRight 恢复合理的驾驶动作(逆向推理),同时自由调整相机视角。三个基准测试的实验证明了其在生成质量、运动可控性和交互意识方面的最先进性能。