论文
GeoCore-9B:走向地球观测中的地理感知生成基础模型
GeoCore-9B: Towards Geo-Aware Generative Foundation Models in Earth Observation
摘要
现有的地球观测(EO)生成模型主要依赖于 微调 自然图像先验,这限制了它们的可扩展性并引入了与地理空间约束相冲突的透视偏差。为了解决这个问题,我们引入了 GeoCore-9B,这是一个包含 90 亿个参数的生成基础模型,它是第一个专门针对 EO 数据从头开始训练的模型。与之前的 EO 基础模型不同,GeoCore-9B 建立在基于流匹配的扩散 Transformer (DiT) 之上,并基于文本描述和连续地理空间元数据(包括地面样本距离、纬度和经度)生成本机条件。为了克服这种规模训练的收敛和空间迷失方向的挑战,我们提出了地理空间语义对齐损失。该目标从冻结的专业教师网络中提取结构性地球表面先验(例如地形和城市区域),在训练期间限制扩散潜在轨迹,而不增加推理开销。 GeoCore-9B 在全球规模的 Git-10M 数据集上进行了预训练,展示了强大的下游多功能性。除了标准代理生成任务之外,我们还表明 GeoCore-9B 可以有效地适应实际的 EO 应用,包括高度具有挑战性的任务,例如云去除和 SAR 到光学跨模态转换。广泛的评估证实,GeoCore-9B 在视觉保真度和地理结构准确性方面都建立了新的最先进的性能。