论文

AvatarDynamizer:通过生成动态纹理从静态到动态人体头像

AvatarDynamizer: From Static to Dynamic Human Avatars via Generative Dynamic Textures

应用与实践内容创作

摘要

对于全身化身来说,表面动力学建模对于克服恐怖谷和实现感知真实感至关重要。与人无关的方法从单眼图像、视频或文本提示中恢复静态 3D 头像,但其骨骼驱动的动画缺乏真实的表面动态,例如衣服皱纹。相比之下,特定于人的方法可以实现高质量的渲染和逼真的动态,但需要为每个人进行昂贵的多视图捕获。最近的通用动态化身方法很难嵌入表面动力学,导致多视图一致性或动态表现力有限。为此,我们提出了 AvatarDynamizer,这是一种生成方法,可将现成的静态 3D 头像转换为可控、逼真且多视图一致的 4D 头像。我们引入了一种新颖的纹理空间表面动力学嵌入,并将化身动力学建模制定为条件纹理生成。我们的编码器-解码器表示将与姿势相关的动态嵌入到动态纹理图中,从而与预先训练的视频扩散模型兼容,同时将它们解码为 3D 高斯模型以实现多视图一致渲染。由于现有数据集在规模、序列长度或运动多样性方面受到限制,我们收集了一个大规模多视图数据集,其中包含涵盖不同骨骼运动和表面动力学的长序列。实验表明,我们的方法有效地以忠实的表面动力学对静态化身进行动画处理,并且在视觉保真度方面优于竞争的可推广方法,特别是在有限的动态训练数据下。