论文
GeoRoPE：遥感基础模型的地面感知旋转适应
GeoRoPE: Ground-Aware Rotary Adaptation for Remote Sensing Foundation Models
摘要
遥感基础模型 (RSFM) 受益于对来自多个传感器和地面采样距离 (GSD) 的图像进行预训练，但仅靠这种暴露并不能解决下游适应过程中的尺度失配问题。固定的词元网格偏移可以对应于传感器之间的不同地面距离，从而使得基于网格的位置先验在物理上不一致。同时，异构的空间粒度意味着即使在相同的 GSD 下，紧凑的城市区域和同质的景观也可能需要不同的位置敏感度。因此，我们提出了 {GeoRoPE}，一种用于 RSFM 的地面感知、RoPE 兼容且参数高效的空间适应方法。 GeoRoPE 从两个互补的方面重新校准 词元级 位置相互作用。首先，\textit{地理坐标校准（GCC）}根据一个词元网格步骤表示的地面距离重新调整原始词元网格偏移量，从而生成跨 GSD 的地理校准相对坐标。其次，\textit{地频校准（GFC）}使用特定于关系的因子调整原生 RoPE 频率，从而实现位置敏感的适应场景相关的空间粒度。 GeoRoPE 通过轻量级适配器注入预训练的 RSFM，保留冻结的空间先验，同时添加地理感知位置校正。跨多个 RSFM、传感器、分辨率和下游任务的实验表明，GeoRoPE 提高了跨分辨率的鲁棒性和尺度敏感的表示学习。