论文

TryOnCrafter:通过可渲染的 4D 试穿代理释放相机轨迹,实现逼真的视频虚拟试穿

TryOnCrafter: Unleashing Camera Trajectories for Realistic Video Virtual Try-on via a Renderable 4D Try-on Proxy

应用与实践内容创作

摘要

虽然视频虚拟试穿 (VVT) 在动态主体上合成逼真的服装覆盖方面取得了显着进展,但现有范例仍然从根本上受到对源摄像机轨迹的被动依赖的限制,无法适应全向视点探索所需的交互自由度。为了解决这一限制,我们定义了一个开创性的研究前沿:摄像机可控视频虚拟试戴(CaM-VVT)。与传统的 VVT 不同,CaM-VVT 不仅需要与视点无关的纹理幻觉,而且还需要在任意、不受约束的相机运动下非刚性人体动力学和背景上下文之间的严格结构同步。为了应对这些挑战,我们推出了 TryOnCrafter,这是第一个专门为 CaM-VVT 任务构建的基于 DiT 的统一框架。与隐式像素空间操作不同,我们引入了可渲染 4D 试穿代理,它明确地将人类主体与环境分离。这是通过将高保真 2D 试穿先验提炼成基于 3DGS 的服装化身来实现的,随后通过 SMPL-X 序列进行动画处理,并与重建的背景点云进行度量对齐。该代理建立了强大的结构基础,具有卓越的纹理密度和运动完整性。我们的代理锚定视频 DiT 利用这种强大的结构基础作为主要几何锚点,确保合成的真实感视频严格受到规定的轨迹和物理上合理的变形的约束。受益于 4D 代理固有的可编辑性,TryOnCrafter 促进了各种下游应用,包括人类重新定位、“子弹时间”效果和 360 度轨道观看。