MIRAGE：捍卫长篇 RAG 免受错误信息污染

检索增强生成（RAG）通过将 LLM 置于外部证据中来提高事实性，但现实世界的检索经常受到污染：语义相关的段落可能包含微妙的错误信息、误导性框架或捏造。我们介绍 MIRAGE，一种 无需训练，针对长格式 RAG 的模型无关防御。 MIRAGE 构建基于 NLI 的跨文档声明图，并将防御声明门应用于一致的、多源支持的子集上的条件生成，或以参数方式阻止检索和回答。我们还发布了涵盖四个扰动系列（明确、冲突、误导、捏造）的最小编辑污染协议，以构建匹配的清洁、混合和完全污染的评估制度。在四个长格式 QA 基准和多个商业和开放权重 LLM 中，污染严重降低了普通 RAG 的性能，而 MIRAGE 在混合和完全污染的证据下始终如一地恢复事实，并且优于之前的稳健 RAG 方法。我们的实现和数据集可在 https://github.com/SaadElDine/MIRAGE 获取。