用于超高分辨率北极遥感的聚类引导特定领域预训练基础模型
Clustering Guided Domain-Specific Pretrained Foundation Model for Very High-Resolution Arctic Remote Sensing
摘要
本研究引入了一种新颖的以北极为中心的遥感基础模型(RSFM),该模型将多样性感知的区域尺度图像管理与用于极高空间分辨率(VHSR)卫星图像分析的Vision Transformer(ViT)编码器的掩模自动编码器(MAE)自监督预训练相结合。在可扩展的亲和力传播聚类工作流程中使用光谱和采集元数据描述符,从 267 TB 的 Vantor VHSR 图像中选择大约 300 万个芯片。此管理策略旨在减少视觉重复或低信息区域的过采样,同时保留整个研究领域的广泛场景多样性。我们使用域适应的 MAE 重建目标在精选语料库上预训练了 ViT-Large 编码器,为下游特征映射生成北极特定的 Transformer 权重。预训练的编码器被集成到现有的位置感知检测和分割框架中,并在四个手工标记的北极数据集上进行评估。与 ImageNet 初始化的 ViT-Large 基线相比,Arctic MAE 预训练对基础设施、IWP、RTS 和 TCN 的前景平均 F1 分数产生了一致的改善,分别为 0.87、0.72、0.93 和 0.87,提高了大约 5-8 个百分点。所提出的模型在所有下游比较中也优于 Prithvi-EO-2.0,最小增益对应于至少 15% 的 F1 改进,这表明针对策划的北极 VHSR 图像的特定领域自监督预训练为精细北极测绘提供了比通用地球观测基础模型更可转移的表示。这些结果表明,优化区域范围内的预训练数据分布,同时保持架构和 MAE 目标固定,可以为多个 VHSR 遥感应用生成可重复使用的北极域编码器。