论文
结构化 3D 潜在能力惊人地强大:通过 2D 扩散释放可泛化的风格
Structured 3D Latents Are Surprisingly Powerful: Unleashing Generalizable Style with 2D Diffusion
摘要
3D 资产生成在游戏和虚拟现实等领域发挥着关键作用,可以从单个或多个图像快速合成高保真 3D 对象。建立在这种能力的基础上,实现风格可控的生成自然成为一个重要且理想的方向。然而,现有方法通常依赖于位于 3D 生成模型的训练分布内或与其相似的风格图像。当出现分布外(OOD)样式时,它们的性能会显着下降甚至失败。为了解决这个限制,我们引入了 \textbf{DiLAST}:用于 3D 风格迁移的基于 2D 扩散的潜在唤醒。具体来说,我们利用预训练的 2D 扩散模型作为教师来提供丰富且可概括的风格先验。通过在基于扩散的指导下将渲染视图与目标风格对齐,我们的方法优化了风格化的结构化 3D 潜在表示。我们观察到,这种限制并非源于模型容量不足,而是由于结构化 3D 潜在特征未充分利用,而结构化 3D 潜在特征本质上具有表达能力。尽管接受的数据相对有限,但 3D 生成模型可以利用 2D 扩散引导将去噪引导至潜在空间中的特定方向,从而产生多样化的 OOD 风格。跨不同数据和多个 3D 生成主干的广泛实验证明了我们方法的有效性和即插即用性质。