建立森林点云的基础模型

森林清查越来越依赖人工智能 (AI) 模型从大规模 3D 点云中获取森林属性。当前的模型通常专门针对单一任务、传感器和森林类型，这使得适应在注释、计算和专业知识方面变得昂贵。我们询问单个预训练模型是否可以学习跨不同森林清单设置的可转移表示。受到语言建模和计算机视觉最新发展的启发，我们向 3D 林业的基础模型 (FM) 迈出了一步。使用 LitePT 作为骨干，我们首先建立一个强大的监督基线，为森林语义和实例分割、树种分类和​​年龄回归基准设定新的技术水平。然后，我们策划一个大规模的未标记语料库，涵盖机载、无人机和移动激光扫描，涵盖不同的森林生态系统，并使用自我监督学习对相同的主干进行预训练。我们通过比较不同注释预算下四个代表性林业任务的从头开始的训练、监督预训练和自监督预训练，系统地评估了表征学习策略。与从头开始训练相比，自监督预训练可以加速模型收敛，并在注释稀缺时持续提高性能。与特定任务的监督预训练相比，自监督预训练在下游林业任务中产生更多可转移的表示。这些发现确定了预训练表示最有价值的实际机制，并表明实例歧视（而不是森林语义）是通用 3D 森林基础模型的主要障碍。代码和模型可在以下位置获得：此 https URL。