论文

PathISE:为知识图谱问答学习有信息量的路径监督

PathISE: Learning Informative Path Supervision for Knowledge Graph Question Answering

上下文与知识知识图谱

摘要

知识图谱问答(KGQA)旨在通过在知识图谱(KG)上推理来回答用户问题。近期的KGQA方法主要遵循检索增强生成范式,用KG中的结构化知识为大语言模型(LLM)知识图谱关联。然而,训练能从KG中检索与问题相关证据的有效模型,通常需要高质量的中间监督信号,例如与问题相关的路径或子图,其获取既耗时又耗资源。我们提出PathISE,一个从答案级标签学习高质量中间监督的新框架。PathISE引入一个轻量的基于transformer的估计器,估计关系路径的信息量以构建伪路径级监督。该监督随后被蒸馏进一个LLM路径生成器,其生成的路径在KG中知识图谱关联,为归纳式答案推理提供紧凑证据。在三个KGQA基准上的大量实验表明,PathISE取得有竞争力或最先进的KGQA性能,并提供可复用的监督信号来增强现有KGQA模型,而无需依赖昂贵的LLM精炼监督信号。我们的源代码发布于 https://anonymous.4open.science/r/PathISE-2F87。

PathISE:为知识图谱问答学习有信息量的路径监督:论文配图
图 1:KG-RAG 中模型的监督信号图示:(a) 包含输入问题(黄色框)、问题实体(蓝色框)和真实答案(橙色框)的训练样本。 (b) 用弱监督信号训练的现有 KG-RAG 模型包括虚假路径,即到达真实答案的不正确/不相关路径。 (c) 我们的 PathISE 框架使用新颖的 MIL 估计器来识别信息路径,从而产生更精确的路径级监督。