论文

Coarse3D以首视图锚定和空间注意力控制图像到3D粗结构

Coarse3D: Controllable and Faithful Sparse Structure Generation for Image-to-3D

应用与实践模型架构Transformer内容创作

摘要

从粗到细的 3D 原生生成在很大程度上依赖于第一阶段的稀疏结构,它决定了后续细化的全局方向和整体几何形状。然而,现有的粗生成器面临两个关键限制:由于语义规范化不明确,它们的方向难以控制;由于 2D与3D对应关系约束较弱,它们的结构通常与输入图像不一致。我们提出了 Coarse3D,这是一种稀疏结构生成模型,可以从任意未提供位姿的图像生成方向可控且结构忠实的体素几何形状。 Coarse3D 引入了三种设计:第一帧锚定规范空间,将生成与第一个输入视图对齐,同时保留以对象为中心的标准化;双塔 DiT,将生成与辅助前馈重建结合起来,以学习具有空间对应依据的特征;以及空间先验引导注意力,通过像素到体素对应来约束交叉注意力。 Coarse3D可以直接替代现有管道的粗粒度阶段。实验表明,它显着提高了稀疏结构质量,并持续增强最终 3D 生成,实现了最先进的性能。

Coarse3D以首视图锚定和空间注意力控制图像到3D粗结构:论文配图
图 1:Coarse3D 生成方向可控且结构可靠的稀疏结构。 Trellis2、ReconViaGen 和 Pixal3D 使用自己的粗略和细化阶段,而 Ours+Trellis2 仅用 Coarse3D 替换粗略阶段并重用 Trellis2 细化阶段。每个单元显示粗体素结构(左)及其产生的最终形状(右)。 Coarse3D 始终遵循第一视图方向,并保留不同对象的结构保真度,通过从粗到细的管道直接转换为更高质量的最终形状。