论文

MeRoPE:用于摄像机控制视频生成的公制旋转位置嵌入

MeRoPE: Metric Rotary Position Embedding for Camera-Controlled Video Generation

模型架构Transformer

摘要

在摄像机控制的视频生成中,几何感知位置编码在摄像机外部和每个词元的观看光线上调节词元。然而,现有方案在现实世界的公制相机轨迹上具有与尺度相关的故障模式:同质投影编码引起注意 logits 和特征规范随着物理平移基线无限增长。我们提出了 MeRoPE(公制旋转位置嵌入),一种用于注意力的保持规范的相对相机编码。 MeRoPE 使用正交旋转块对校准后的视线之间的相对方向进行编码,将原始度量位移映射到多频率旋转相位,并沿极弧添加视差锚定对应关系。该设计严格保留特征规范,无论物理平移尺度如何,都限制 pre-softmax 注意力 logits,并保持对全局刚性坐标变化的精确不变性。 nuScenes 和 PanShot 分别覆盖大基线轨迹和不同的相机光学器件,MeRoPE 实现了比先前编码更强的相机控制,生成的相机运动与旋转和平移调节姿势之间具有最佳一致性。代码将公开。