论文

基于图的软提示对不完全知识图进行拓扑感知推理

Topology-Aware Reasoning over Incomplete Knowledge Graph with Graph-Based Soft Prompting

上下文与知识知识图谱

摘要

大语言模型(LLM)在各种任务中表现出了卓越的能力,但在知识密集型场景中仍然容易产生幻觉。知识库问答 (KBQA) 通过在知识图 (KG) 中生成基础来缓解这一问题。然而,大多数多跳 KBQA 方法依赖于显式的边缘遍历,这使得它们容易受到 KG 不完整性的影响。在本文中,我们提出了一种新颖的基于图的软提示框架,将推理范式从节点级路径遍历转变为子图级推理。具体来说,我们采用图神经网络(GNN)将提取的结构子图编码为软提示,使 LLM 能够推理更丰富的结构上下文并识别直接图邻居之外的相关实体,从而降低对丢失边缘的敏感性。此外,我们引入了一个两阶段范例,可以降低计算成本,同时保持良好的性能:轻量级的 LLM 首先利用软提示来识别与问题相关的实体和关系,然后是更强大的 LLM 用于证据感知答案生成。对四个多跳 KBQA 基准的实验表明,我们的方法在其中三个上实现了最先进的性能,证明了其有效性。代码可在存储库中找到:https://github.com/Wangshuaiia/GraSP。