论文

HighFM:建立从高频地球观测数据中学习表示的基础模型

HighFM: Towards a Foundation Model for Learning Representations from High-Frequency Earth Observation Data

模型训练预训练

摘要

气候相关灾害的频率和严重性日益增加,更加需要实时监测、预警和明智决策。由卫星数据和机器学习 (ML) 提供支持的地球观测 (EO) 提供了强大的工具来应对这些挑战。基础模型 (FM) 通过在大规模遥感数据集上实现通用预训练,彻底改变了 EO ML。然而,大多数现有模型依赖于低重访率的高分辨率卫星图像,限制了它们对快速发展的现象和时间紧迫的紧急响应的适用性。在这项工作中,我们提出了 HighFM,这是一种针对高时间分辨率、多光谱 EO 数据的 FM 的初步方法。利用来自 Meteosat 第二代 (MSG) 平台的超过 2 TB 的 SEVIRI 图像,我们采用 SatMAE 掩码自动编码框架来学习强大的时空表示。为了支持实时监控,我们通过细粒度时间编码增强了原始架构,以捕获短期变化。然后,对预训练的模型进行云掩蔽和主动火灾探测任务的微调。我们将 SEVIRI 预训练 Vision Transformer 与传统基线和最近的地理空间 FM 进行基准测试,证明了平衡精度和 IoU 指标的一致增益。我们的结果凸显了时间密集的对地静止数据用于实时地球观测的潜力,为灾难检测和跟踪的基础模型提供了一条可扩展的路径。