论文

Explore-on-Graph:不完备下知识图问答的混合嵌入-LLM推理

Explore-on-Graph: Hybrid Embedding-LLM Reasoning for Knowledge Graph Question Answering under Incompleteness

上下文与知识知识图谱

摘要

大语言模型 (LLM) 越来越多地与知识图 (KG) 相结合,以在结构化证据中进行推理。然而,大多数基于 LLM 的 KGQA 方法依赖于遍历现有的图边,并且当推理路径因缺失事实而中断时变得不可靠。要求大语言模型生成缺失知识的替代方案有引入幻觉证据的风险。我们引入了 XoG(eXplore-on-Graph),这是一个针对不完整 KG 进行多跳问答的框架,它从学习的图结构而不是 LLM 参数知识中恢复丢失的推理路径。 XoG 结合类型级实体关系统计来识别候选关系与 KG 嵌入,以检索可能丢失的实体,使用 LLM 作为语义选择器和推理器。这些机制被整合到迭代的规划-探索-推理过程中。在 WebQSP、CWQ 和基于 Wikidata 的 BRINK 基准测试上的实验表明,XoG 在完整的 KG 上仍然具有竞争力,并且在 KG 不完整的情况下始终优于没有特定任务 KGQA 训练的同类方法。这些成果在多个大语言模型骨干中持续存在,表明仅靠更强的大语言模型并不能解决缺失的图表证据。与密切相关的基于规划的方法相比,XoG 还可将 LLM 词元消耗减少高达 33%。