论文
GeoSET:SAR 到 EO 图像转换的通用基础模型
GeoSET: Generalist Foundation Model for SAR-to-EO Image Translation
摘要
配对合成孔径雷达 (SAR) 和电光 (EO) 图像越来越多地跨传感器、分辨率和地理区域使用。然而,现有的 SAR 到 EO 图像转换 (SET) 方法通常在单个、有限规模的数据集上进行训练,生成专门针对特定传感条件的模型。我们引入了 GeoSET,这是 SET 的第一个通用模型,它围绕单个预训练的父模型构建,该模型适用于通用协议下的下游数据集。我们从超过 1000 万个 SAR 观测数据中筛选出超过 300 万个高质量 SAR-EO 对,涵盖不同的传感器、空间分辨率和地面采样距离。为了弥合 SAR 观测和预训练图像生成器之间的模态差距,我们开发了一种抗斑点 SAR 编码器,并在这个异构语料库上预训练条件生成器。由此产生的父级通过低秩适应 (LoRA) 支持跨下游数据集的高效适应,仅更新 0.60% 的生成器参数,并且每个数据集大约需要一小时。在六个下游基准测试中,GeoSET 通过完全微调或 LoRA 在 FID 和 DISTS 中取得了最先进的结果,证明了跨异构 SAR-EO 域的有效传输。