开发荷兰高分辨率遥感数据的基础模型

我们使用荷兰 1.2m 高分辨率卫星图像开发了一个基础模型。通过结合卷积神经网络和 Vision Transformer，该模型可以捕获低频和高频景观特征，例如精细纹理、边缘和小物体以及大型地形结构、高程模式和土地覆盖分布。该模型利用时态数据作为输入，从更广泛的跨时间上下文信息中学习，从而允许模型利用时间依赖性，例如地形特征、土地覆盖变化和季节动态。这些额外的约束减少了特征模糊性，改进了表示学习，并通过更少的标记样本实现了更好的泛化。基础模型在多个下游任务上进行评估，范围从荷兰境内的用例到全球基准数据集。在荷兰的植被监测数据集上，该模型通过合并时间信息而不是依赖于单个时间点，显示出明显的性能改进。尽管使用较小的模型和较少的仅限于荷兰的预训练数据，但与最先进的模型相比，它在全球基准上取得了有竞争力的结果。这些结果表明，该模型可以从有限的数据中学习丰富的、可概括的表示，在使用较大的最先进遥感模型的一小部分参数的同时，在全球基准上实现具有竞争力的性能。为了最大限度地提高可重复性和重用性，我们在 GitHub 上提供了脚本和模型。