论文

HyperFM:具有光谱分组的高效高光谱基础模型

HyperFM: An Efficient Hyperspectral Foundation Model with Spectral Grouping

模型优化小模型/轻量模型

摘要

NASA PACE 任务提供了对海洋颜色、气溶胶和云的前所未有的高光谱观测,为这些成分如何相互作用和影响地球气候和空气质量提供了新的见解。其海洋颜色仪器可测量数百个精细间隔的波长带的光,从而能够详细表征浮游植物成分、气溶胶特性和云微物理等特征。然而,这种规模的高光谱数据庞大、复杂且难以标记,需要专门的处理和分析技术。现有的基础模型已经改变了计算机视觉和自然语言处理,通常是在标准 RGB 图像上进行训练,因此很难解释 PACE 捕获的连续光谱特征。虽然最近的进展引入了高光谱基础模型,但它们通常是在无云观测上进行训练的,并且由于仪器之间的光谱不一致,通常仍然仅限于单传感器数据集。此外,现有模型往往参数较多且计算成本较高,限制了可扩展性和操作设置中的采用。为了应对这些挑战,我们引入了 HyperFM,这是一种参数高效的高光谱基础模型,它利用组内和组间光谱注意力以及混合参数分解来更好地捕获光谱空间关系,同时降低计算成本。 HyperFM 在四个基准下游大气云属性检索任务中展示了相对于现有高光谱基础模型和特定于任务的最先进方法的一致性能改进。为了支持进一步的研究,我们还发布了 HyperFM250K,这是来自 PACE 任务的大规模高光谱数据集,其中包括晴天和阴天场景。