自监督遥感视觉模型如何转移到下游任务？

自监督地理空间基础模型（GeoFM）从遥感数据中学习可转移的表示，但它们的下游行为很难表征。我们研究了六个具有代表性的 GeoFM，涵盖联合嵌入、重建和多模态预训练系列，并评估不同标签可用性和下游管道下分类、回归和分割基准的迁移。我们发现模型排名随着任务和适应设置的不同而变化。分层探测表明，在大多数情况下，与最终层嵌入相比，中间 Transformer 块中的任务相关信息更容易访问，并且 GeoFM 表现出不同的深度剖面。在 PASTIS 和 Sen1Floods11 的分段案例研究中，解码器设计和 微调 等下游自适应设置可能与 GeoFM 的选择一样具有影响力，而标准密集预测头可能与 GeoFM 在深度上组织信息的方式不一致。最后，CKA 对案例研究的分析表明，微调 并未在深度上均匀地重写 GeoFM，最强的变化集中在 ViT 块中 MLP 的第一线性层。这些结果有助于解释为什么 GeoFM 排名会在基准之间发生变化，并激发更多具有代表性的评估和适应策略。