论文
PhysX-CoT:从单个图像到模拟就绪的 3D 资产的结构化物理推理
PhysX-CoT: Structured Physical Reasoning from a Single Image to Simulation-Ready 3D Assets
摘要
可进行仿真的 3D 资产是机器人技术和具体人工智能的核心。从单个图像生成它们通常被构建为视觉语言模型,该模型发出序列化资产供解码器转换为几何和物理场,从而使图像到 3D 的推理保持隐式。我们认为限制因素是这种以输出为中心的观点:零件放置和局部形状纠缠在一个全局坐标词元流中,并且中间物理状态永远不会暴露用于监督、调节或验证。相反,PhysX-CoT 将单图像资产生成视为一个明确的结构化物理推理过程,一个有序且机器可解析的部分级状态轨迹,涵盖分解、2D 和 3D 基础、关系、粗略几何图形和表面线索,我们分别监督它们,用于条件几何图形,并将其视为奖励目标。几何被分解,以便 3D 盒子携带布局,本地代码携带形状,CoT 对齐的 GRPO 优化解析有效性、基础、几何、布局和物理一致性。在统一协议下,在同一主干、数据和冻结解码器上重新训练所有学习基线,PhysX-CoT 在几何、规模和物理属性指标方面优于最接近的全任务基线。 Oracle、词元匹配和状态顺序控制表明显式状态是功能性的而不是装饰性的,并且在 Unreal Engine~5 中生成的资产以高有效性进行解析、碰撞和表达。