地球嵌入中有什么？位置编码器的可解释性分析

地理隐式神经表示（INR）学习将地球上的任何坐标映射到位置嵌入，将地理空间数据隐式编码到神经网络的权重中。位置嵌入作为通用地理空间表示被广泛使用，但用户缺乏原则性工具来审核这些嵌入捕获的地理或语义信息。在这项工作中，我们通过位置嵌入来分析地理 INR 的信息内容。我们将这些嵌入分解为人类可解释的特征$\unicode{x2014}$，即（i）稀疏潜在概念，（ii）自然语言概念和（iii）视觉特征。潜在概念嵌入是使用稀疏自动编码器学习的。为了恢复自然语言概念，我们在预定义的地理空间字典上应用稀疏线性概念嵌入（SpLiCE）。最后，使用来自 CLIP 手术的显着图提取视觉特征。我们证明位置嵌入可以分解为人类可解释的表示，同时保留高重建能力，揭示可解释的地理结构，例如森林、沙漠和城市特征。在各种方法中，稀疏分解揭示了编码信息的系统差异，从城市结构到更广泛的生物群落和气候信号，预训练空间显着性图进一步突出了道路和地标等互补特征。我们希望这项工作为可解释的地理空间表示迈出了第一步。