论文

利用动态知识图谱与可解释检索增强生成增强电信大语言模型(LLM)

Enhancing Large Language Models (LLMs) for Telecom using Dynamic Knowledge Graphs and Explainable Retrieval-Augmented Generation

上下文与知识知识图谱

摘要

大语言模型(LLM)在多种任务上展现出强大潜力,但由于领域复杂性、持续演进的标准与专业术语,其在电信领域的应用仍具挑战。因此,通用领域LLM在此情境下可能难以给出准确可靠的输出,导致电信运营中幻觉增多、效用下降。为解决这些局限,本工作提出KG-RAG——一个将知识图谱(KG)与检索增强生成(RAG)结合以增强LLM完成电信特定任务的新框架。具体而言,KG提供从电信标准与技术文档中提取的领域知识的结构化表示,RAG则支持动态检索相关事实以锚定模型输出。这种组合提升了事实准确性、减少幻觉,并确保符合电信规范。在多个基准数据集上的实验结果表明,KG-RAG优于仅用LLM与标准RAG基线,例如KG-RAG的平均准确率较RAG提升14.3%,较仅用LLM的模型提升21.6%。这些结果凸显了KG-RAG在复杂电信场景中产出准确、可靠且可解释输出的有效性。

利用动态知识图谱与可解释检索增强生成增强电信大语言模型(LLM)
图1:所提出的KG-RAG框架概览:领域专属的电信文档由LLM处理以抽取实体并预测关系,从而构建KG。随后检索器找出相关的KG上下文,将其填入LLM提示,为用户查询生成最终答案。