论文

利用 LLM-GNN 集成通过知识图进行开放世界问答

Leveraging LLM-GNN Integration for Open-World Question Answering over Knowledge Graphs

上下文与知识知识图谱

摘要

基于知识图谱 (KG) 的开放世界问答 (OW-QA) 旨在回答有关不完整或不断发展的 KG 的问题。传统的 KGQA 假设一个封闭的世界,答案必须存在于 KG 中,限制了现实世界的适用性。相比之下,开放世界的 QA 需要根据图结构和上下文推断缺失的知识。 大语言模型 (LLM) 擅长语言理解,但缺乏结构化推理。图神经网络(GNN)对图拓扑进行建模,但在语义解释方面遇到困难。现有系统将 LLM 与 GNN 或图 检索器 集成。有些支持开放世界的 QA,但依赖于没有语义基础的结构嵌入。大多数假设观察到的路径或完整的图,使得它们在缺少链接或多跳推理的情况下不可靠。我们推出了 GLOW,一种混合​​系统,结合了预训练的 GNN 和用于开放世界 KGQA 的 LLM。 GNN 从图结构中预测前 k 个候选答案。这些与相关的 KG 事实一起被序列化为结构化提示(例如,三元组和候选),以指导 LLM 的推理。这使得能够对符号和语义信号进行联合推理,而无需依赖检索或 微调。为了评估泛化性,我们引入了 GLOW-BENCH,这是一个跨不同领域的不完整知识图谱的 1,000 个问题基准测试。 GLOW 在标准基准和 GLOW-BENCH 上的性能优于现有的 LLM-GNN 系统,实现高达 53.3% 的提升,平均提升 38%。 GitHub 代码和数据可用。