论文

使用 DFR-Gemma 对密集地理空间嵌入启用内在推理

Enabling Intrinsic Reasoning over Dense Geospatial Embeddings with DFR-Gemma

模型训练参数高效训练

摘要

地理空间和时空数据的表示学习在实现通用地理空间智能方面发挥着关键作用。最近的地理空间基础模型,例如人口动态基础模型(PDFM),将复杂的人口和流动动态编码为紧凑的嵌入。然而,它们与 大语言模型 (LLM) 的集成仍然有限。现有的 LLM 集成方法将这些嵌入视为检索索引或将它们转换为文本描述以进行推理,从而引入冗余、标记效率低下和数值不准确。我们提出了直接特征推理-Gemma(DFR-Gemma),这是一种新颖的框架,使 LLM 能够直接对密集的地理空间嵌入进行推理。 DFR 通过轻量级投影仪将高维嵌入与 LLM 的潜在空间对齐,允许嵌入作为语义标记与自然语言指令一起注入。这种设计消除了对中间文本表示的需要,并实现了对空间特征的内在推理。为了评估这种范式,我们引入了一个多任务地理空间基准,它将嵌入与不同的问答任务配对,包括特征查询、比较和语义描述。实验结果表明,DFR 允许 LLM 解码潜在空间模式并跨任务执行准确的零样本推理,同时与基于文本的基线相比显着提高效率。我们的结果表明,将嵌入视为主要数据输入,为多模式地理空间智能提供了更直接、更高效和可扩展的方法。