论文

基于语言模型的知识图谱构建

Construction of Knowledge Graph based on Language Model

上下文与知识知识图谱

摘要

知识图谱(KG)可以有效地整合海量数据中的有价值的信息,因此得到了快速发展并在许多领域得到广泛应用。传统的KG构建方法依赖于人工标注,往往消耗大量的时间和人力。而基于深度学习的知识图谱构建方案往往泛化能力较弱。随着预训练语言模型(PLM)的快速发展,PLM在知识图谱构建领域展现出了巨大的潜力。本文全面回顾了使用 PLM 构建知识库领域的最新研究进展。在本文中,我们解释了 PLM 如何利用其语言理解和生成功能从文本数据中自动提取知识图谱的关键信息,例如实体和关系。此外,我们还提出了一种基于轻量级大语言模型(LLM)的新超关系知识图构建框架LLHKG,并将其与以前的方法进行了比较。在我们的框架下,轻量级LLM的KG构建能力与GPT3.5相当。