论文

DreamEdit3D:用于 3D 编辑的多视图扩散模型的个性化

DreamEdit3D: Personalization of Multi-View Diffusion Models for 3D Editing

应用与实践内容创作

摘要

虽然 2D 扩散模型在身份保留个性化方面取得了显着的成功,但由于多视图一致性和空间控制的复杂性,将这种功能扩展到 3D 资产仍然是一个重大挑战。受这些 2D 进步的启发,我们提出了一种新颖的文本引导 3D 编辑个性化方法,可以通过自然语言进行组合、对象级控制。给定 3D 输入,我们渲染正交视图并提取对象级分割掩模以隔离语义组件。然后,我们通过定制的两阶段优化策略学习每个组件的不同标记嵌入:具有注意对齐的多视图文本反转,然后是多视图扩散模型的完整 微调。在推理过程中,这些解开的标记与编辑提示无缝组合,生成多视图一致图像,随后将其提升为高保真纹理 3D 网格。对不同编辑场景的广泛评估表明,我们的方法成功地将 2D 个性化的灵活性转移到 3D,与现有基线相比,实现了最先进的编辑 忠实性 和身份保留。