论文
PhyMix:通过隐式-显式优化实现物理一致的单图像 3D 室内场景生成
PhyMix: Towards Physically Consistent Single-Image 3D Indoor Scene Generation with Implicit--Explicit Optimization
摘要
现有的单图像 3D 室内场景生成器通常会产生视觉上看似合理的结果,但无法遵循现实世界的物理原理,从而限制了它们在机器人、嵌入式人工智能和设计方面的可靠性。为了检查这一差距,我们引入了一个统一的物理评估器,它测量四个主要方面:几何先验、接触、稳定性和可部署性,这些方面进一步分解为九个子约束,建立了第一个衡量物理一致性的基准。基于这个评估器,我们的分析表明,最先进的方法在很大程度上仍然是物理不可知的。为了克服这一限制,我们进一步提出了一个框架,将物理评估器的反馈集成到训练和推理中,从而增强生成场景的物理合理性。具体来说,我们提出了 PhyMix,它由两个互补的组件组成:(i) 通过 Scene-GRPO 进行隐式对齐,这是一种无批评的组相关策略优化,利用物理评估器作为偏好信号,并使采样偏向于物理上可行的布局;(ii) 通过即插即用的测试时间优化器 (TTO) 进行显式细化,该优化器使用可微评估器信号来纠正生成过程中的残留违规。总的来说,我们的方法统一了评估、奖励塑造和推理时间校正,生成视觉上忠实且物理上合理的 3D 室内场景。广泛的综合评估证实了视觉保真度和物理合理性方面的最先进性能,并且风格化和真实世界图像中的广泛定性示例进一步展示了该方法的稳健性。我们将在发布后发布代码和模型。