论文

InpaintSLat:通过初始噪声优化修复结构化 3D 潜伏

InpaintSLat: Inpainting Structured 3D Latents via Initial Noise Optimization

模型推理解码与生成控制

摘要

我们提出了一种基于初始噪声优化的 无需训练 可控 3D 修复方法。在结构化 3D 潜在扩散框架中,我们观察到底层几何结构是在扩散过程的早期阶段建立的,并且对初始噪声表现出高度敏感性。这些特征会损害修复和编辑等任务的稳定性,在这些任务中,模型必须确保在合成新结构的同时与现有上下文严格一致。在本文中,我们介绍了一种在结构化 3D 潜在扩散框架内优化初始噪声的策略,确保高保真 3D 修复。具体来说,我们通过利用基于整流流模型的反向传播近似来更新初始噪声,并使用专为稳健且高效的结构化 3D 潜在优化而设计的谱参数化。实验表明,相对于代表性的 无需训练 修复基线,上下文一致性和提示对齐得到了持续改进,将初始噪声控制建立为 3D 修复的独立维度,与传统的采样轨迹操作正交。