论文

ReX-Shot:通过基于几何和相机的生成进行单图像重摄影

ReX-Shot: Single-Image Rephotography via Geometry- and Camera-Grounded Generation

应用与实践内容创作

摘要

单图像重摄影旨在从具有指定视点、焦距和摄影效果的单个参考图像合成场景的新镜头,这些在成像中本质上是耦合的。现有方法通常单独处理这些因素,并在联合控制下陷入困境:新颖的视图合成可能会在焦距变化下引入几何失真,而超分辨率和指令引导编辑仍然局限于 2D,无法可靠地将细节恢复或外观控制扩展到新颖的视点。我们将这些限制归因于不完美的单图像 3D 重建和连续焦距放大的采样限制。为了减少几何误差带来的投影偏差,我们使用隐式变换的基础模型特征来实现稳健的目标视图引导。我们进一步将焦距放大表述为几何引导的超分辨率问题,并利用生成细节先验来恢复稀疏 3D 重采样期间丢失的细节。基于这种 3D 感知生成主干,我们将摄影效果控制从 2D 过滤提升到 3D 感知外观编辑,从而保持跨视点和焦距的内容一致性。这些组件构成了 ReX-Shot,这是一个基于几何和相机的单图像重摄影生成框架。据我们所知,ReX-Shot 是第一个从单个图像联合控制视点、焦距和参数化摄影效果的统一框架。实验表明,ReX-Shot 在所有三个控件中均优于代表性基线,同时实现近实时交互式重新摄影。