LiteSemRAG：用于鲁棒 RAG 的轻量级 LLM 无语义感知图检索

基于图的检索增强生成（RAG）在改进多级推理和结构化证据聚合方面表现出了巨大的潜力。然而，现有的基于图的 RAG 框架在索引和查询期间严重依赖于利用 大语言模型 (LLM)，导致高词元消耗、计算成本和延迟开销。在本文中，我们提出了 LiteSemRAG，一种轻量级、完全无 LLM、语义感知的图检索框架。 LiteSemRAG 通过利用上下文 词元级 嵌入来构建异构语义图，将表面词汇表示与上下文相关的语义显式分离。为了对一词多义进行鲁棒建模，我们引入了一种具有块级上下文聚合和自适应异常处理的动态语义节点构建机制。在查询阶段，LiteSemRAG 执行两步语义感知检索过程，将共现图权重与隔离语义恢复机制集成在一起，从而实现平衡的结构推理和语义覆盖。我们在三个基准数据集上评估 LiteSemRAG，实验结果表明，与最先进的基于 LLM 的图 RAG 系统相比，LiteSemRAG 在所有数据集上实现了最佳平均倒数排序 (MRR@10)，并且具有竞争性或优越的召回率 (Recall@10)。同时，LiteSemRAG 消耗零个 LLM 词元，并且由于消除了 LLM 的使用，在索引和查询方面实现了显着的效率提升。这些结果证明了 LiteSemRAG 的有效性，表明可以在不依赖基于 LLM 的方法的情况下实现强大的语义感知图检索框架。