论文
通过双曲检索增强生成推广图基础模型
Generalizing Graph Foundation Models via Hyperbolic Retrieval-Augmented Generation
摘要
图基础模型(GFM)通过利用大规模 预训练 进行跨域推理,成为图表示学习中的主导范例。然而,这些模型中编码的参数化知识不足以应对分布变化,限制了它们的泛化能力。为了缓解这个问题,引入了检索增强生成(RAG)以在推理时合并外部知识。然而,在欧几里德空间中运行的现有 RAG 框架存在基本的几何限制:欧几里德空间的多项式体积增长本质上与树结构的外部知识库不匹配。这种不匹配导致检索中语义粒度的丢失并引起中心现象。为了解决这一限制,我们提出了一种双曲检索增强生成(HyRAG)框架,旨在增强 GFM 的泛化能力。具体来说,引入的双曲知识索引模块通过在双曲空间内对外部知识库进行建模来保留外部知识库的树状层次结构。然后,多粒度检索模块分别通过粗粒度和细粒度的知识检索为 GFM 提供全局语义锚点和局部语义细微差别。最后,双路径融合模块在特征和结构层面实现了图任务的有效知识集成。多个图基准的实验证明了零样本设置的显着改进,突出了我们的稳健 GFM 推理方法的泛化。