论文

Gen2Physics:通过多视图材质分解生成物理中的 3D 网格

Gen2Physics: Grounding Generated 3D Meshes in Physics via Multi-View Material Decomposition

应用与实践视觉感知与空间理解

摘要

虽然最先进的生成模型可以生成高保真 3D 网格,但这些输出缺乏交互式模拟、游戏或机器人所需的物理属性。我们引入了 Gen2Physics,这是一个统一的自动化框架,通过自动将生成的网格分解为其组成材料组件,为物理奠定了基础。之前的方法侧重于与标准物理引擎不兼容的体积表示,与此不同,Gen2Physics 直接在网格上运行以立即生成可用于模拟的资产。我们的流程集成了用于密集材料分割的微调 Vision Transformer、强大的 2D 到 3D 一致性投影以及视觉语言模型 (VLM) 引导的细化,该细化利用上下文推理来分配物理属性并推断内部几何形状(实心与空心)。通过将表面斑块转换为具有不同密度的体积,我们的方法可以实现物理上合理的动态模拟。 ABO-500 和 PartNet-Material 基准测试的实验结果表明,Gen2Physics 使现有物理基础管道的材料分割精度提高了一倍以上(15.6 至 48.3 mIoU),同时与体积方法的质量估计精度相匹配,并且是输出防水的每个材料子网格的唯一方法。