论文

UniPart:实现基于语言的零样本 3D 零件分割以实现具体交互

UniPart: Towards Zero-shot Language-Grounded 3D Part Segmentation for Embodied Interaction

模型训练合成数据

摘要

细粒度的机器人操作取决于对零件的理解,而不仅仅是整个物体。现有的 3D 基础模型往往要么是广义的但具有对象感知能力,要么是部分感知能力但仅限于封闭集分类法,这削弱了零样本迁移。我们研究文本条件的 3D 零件分割,其中自由形式的短语选择点云上的功能零件。我们引入 UniPart,这是一种前馈跨模式 3D Transformer,可调节 CLIP 文本嵌入。为了扩大监督规模,我们使用多视图一致零件生成,使用 160K+ Objaverse 资产和 8M 文本到零件对构建了 LangPart-1M。我们进一步手动标记高质量子集 LangPart-4K,以进行微调和评估。 UniPart 在开放词汇零件基准上取得了出色的零样本结果,并转移到现实世界中的语言条件零件抓取。