基于大语言模型的知识图推理的幻觉检测

知识图（KG）推理从现有事实中推断出新知识，广泛应用于问答、推荐和决策支持等领域。随着大语言模型（LLM）的快速发展，基于LLM的KG推理框架利用检索到的KG信息变得越来越流行。然而，LLM 中的幻觉仍然是一个关键问题。即使纳入了相关的知识图谱知识，模型仍然可能生成不正确的输出，从而导致错误信息和不可靠的决策。现有的幻觉检测方法要么关注 LLM 内部状态，要么验证与检索到的上下文的一致性，但这两种方法都忽略了 KG 中的结构信息，导致性能不佳。为了解决这一差距，我们提出了 LUCID，这是第一个基于 LLM 的知识图推理框架的幻觉检测方法。 LUCID 联合利用 LLM 注意力分数、KG 语义和结构信息。具体来说，它从注意力分数和语义相似度中提取节点和边缘特征，并使用图神经网络将它们与 KG 结构集成。我们还构建了手动注释的基准数据集以进行评估。对 9 个数据集的实验表明，与 15 个基线相比，LUCID 实现了最先进的性能。