ReliableRAG：通过可靠性引导推理链打击检索增强生成中的错误信息

通过将外部信息集成到 大语言模型 (LLM) 中，检索增强生成 (RAG) 已成为问答 (QA) 的强大架构。然而，新闻和社交媒体中的虚假、不准确和误导性信息对现实世界的 RAG 系统构成了严峻的挑战，特别是在多跳 QA 中，复杂的多步骤推理可能会被检索到的文档中的单个欺骗性错误信息片段所误导。现有的方法主要依赖于隐式对齐或显式监管，但它们评估细粒度信息可靠性的能力有限，这使得它们很容易受到欺骗性错误信息的影响，这些错误信息在语义上与问题相关，但实际上不正确，从而导致错误的答案。为了解决这个限制，我们提出了 ReliableRAG，据我们所知，它是第一个可靠性驱动的框架，通过对单个三元组的细粒度评估来减少多跳 QA 中的欺骗性错误信息。 ReliableRAG 首先从源文档中提取信息片段并将其表示为结构化三元组。然后，它通过将查询三元组语义相关性与三元组可信度相结合来量化三元组可靠性，仅保留 top-$K$ 可靠且非冗余的三元组。基于这些精炼的三元组，ReliableRAG 自回归构建强大的推理链，以巩固可信的证据并过滤欺骗性的错误信息，产生忠实于可靠信息的准确答案。对三个多跳 QA 数据集的实验表明，ReliableRAG 优于现有方法，大大提高了 RAG 系统在欺骗性错误信息注入下的事实可靠性和鲁棒性。