论文

MeshCarve:在紧凑潜空间中以流匹配生成三维网格

MeshCarve: Artisan Mesh Generation with Flow Matching in Compact Latent Spaces

模型架构应用与实践新型架构内容创作视觉感知与空间理解

摘要

先前的 artisan 网格生成工作主要是自回归地预测面部标记,这使得推理速度变慢。最近的方法改为流匹配由变分自动编码器(VAE)构建的连续潜在变量,但当几何和拓扑联合编码时,以及当潜在空间被压缩时,重建质量显着下降。我们提出了 MeshCarve,一种完全在紧凑潜在空间中生成的流匹配方法,分别生成顶点位置和边缘连接,并回避了联合紧凑潜在空间的困难。为了缩短Token序列,我们提出了一个分层稀疏Transformer主干,实例化为 VertexVAE 和 EdgeVAE。两个 VAE 都锚定在其潜在空间中的离散顶点上,而不是对表面体素上的字段进行编码,这大大减少了Token序列的长度,并且我们的空间感知压缩进一步缩短了长度,而无需花费重建成本。 VertexVAE 直接对顶点占用进行编码。对于连通性,我们提出了顶点链接编码,它将顶点之间的任意连通性变成 固定长度连续的每顶点嵌入并忠实地恢复复杂的艺术拓扑。 MeshCarve 将这些 VAE 与锚生成器结合起来,并在缩短的Token序列上进行流匹配。它显示出优于 Objaverse 上最先进的自回归和流匹配方法的优势,并推广到 Toys4K。据我们所知,它是第一个工匠网格生成方法,其每个生成阶段都在空间压缩的潜在状态中运行,Token序列仅是先前最压缩的自回归和流匹配工作的一小部分。

MeshCarve:在紧凑潜空间中以流匹配生成三维网格:论文原图
图 2:MeshCarve 概述。上图:VertexVAE 和 EdgeVAE 共享一个稀疏Transformer主干,通过等式 1 的空间下投影达到压缩的 64364^{3} 潜伏。 1 并通过镜像向上投影解码顶点体素及其连接。底部:通过锚点生成器和两个流从密集点云进行端到端生成。