将外部知识转换为三元组以增强 LLM 的 RAG 检索

检索增强生成 (RAG) 通过在生成过程中结合外部知识来减轻 大语言模型 (LLM) 中的幻觉。然而，RAG 的有效性不仅取决于 检索器 的设计和底层模型的容量，还取决于检索到的证据的结构以及与查询的对齐方式。现有的 RAG 方法通常检索并连接非结构化文本片段作为上下文，这通常会引入冗余或弱相关信息。这种做法会导致过多的上下文积累、语义对齐减少和推理链碎片化，从而降低生成质量，同时增加词元消耗。为了应对这些挑战，我们提出了 Tri-RAG，这是一种基于三元组的结构化检索框架，可通过推理对齐的上下文构建来提高检索效率。 Tri-RAG 自动将外部知识从自然语言转换为由条件、证明和结论组成的标准化结构化三元组，使用基于冻结模型参数的轻量级提示自适应来明确捕获知识片段之间的逻辑关系。在此表示的基础上，三元组头条件被视为用于检索和匹配的显式语义锚，从而能够精确识别与查询相关的知识单元，而无需直接连接冗长的原始文本。因此，Tri-RAG 在检索准确性和上下文标记效率之间实现了良好的平衡。多个基准数据集的实验结果表明，Tri-RAG 显着提高了检索质量和推理效率，同时在复杂推理场景中产生更稳定的生成行为和更高效的资源利用。