论文

FairRSFM:遥感基础模型的生物群落感知基准与去偏框架

FairRSFM: A Biome-Aware Benchmark and Debiasing Framework for Remote Sensing Foundation Models

模型评测鲁棒性、公平性与可信度评测

摘要

遥感基础模型(RSFM)通常使用聚合指标进行评估,这可以隐藏生态区域之间的系统性能差异。我们引入了 FairRSFM,这是一种生物群落感知基准,用于评估 RSFM 中生态群体的稳健性。 FairRSFM 将 14 个陆地生物群落类别的地理参考样本映射到六个具有生态意义的宏观组,并根据统一的 freeze-骨干模型 评估协议评估模型。该基准测试涵盖四个下游数据集:m-EuroSAT、m-BigEarthNet、m-SA-Crop-Type 和带有动态世界标签地图的 MMEarth20K。在三个随机种子中使用 Prithvi-EO-2.0、SatMAE 和 DOFA,我们表明总体性能一致地掩盖了架构和任务之间依赖于生物群落的差异。例如,Prithvi-EO-2.0 在 m-EuroSAT 上达到 90.98% 的总体宏观 F1,但最差组的平均得分仅为 83.72%,而 m-SA-Crop-Type 在 Xeric 和 Mineraological 组中从总体 mIoU 的 27.30% 下降到 18.47%。我们进一步评估生物群落正交线性探测 (BOLP)、动态生物群落重新加权 (DBR) 和 GroupDRO 作为补充缓解基线。它们的有效性取决于模型和任务;例如,BOLP 将 m-BigEarthNet 上的 Prithvi-EO-2.0 最差组 F1@opt 从 46.12% 提高到 50.27%,而无需更新 RSFM 骨干模型。 FairRSFM 提供了一个可重复使用的协议,用于诊断和缓解遥感基础模型中的生态鲁棒性差距。代码和数据集可在以下位置获取:https://github.com/aminurhossain/FairRSFM.

FairRSFM:遥感基础模型的生物群落感知基准与去偏框架的原论文方法或结果图
图 1:FairRSFM 概述。地理参考样本从 14 个陆地生物群落映射到 6 个宏观组,并根据冻结的骨干模型下游评估协议进行评估。 BOLP 在训练任务头之前从冻结的 RSFM 嵌入中删除与生物群落相关的方向。