论文
CQC-RAG:通过交叉查询一致性实现鲁棒检索增强生成
CQC-RAG: Robust Retrieval-Augmented Generation via Cross-Query Consistency
摘要
检索增强生成(RAG)已成为提高 大语言模型(LLM)真实性的常用方法,但其可靠性对外部证据的检索和使用方式仍然高度敏感。具有不同语法形式的语义等效查询可能会导致不同的检索结果,而不相关或误导性文档可能会进一步诱发幻觉答案。现有的多路径推理方法通过对多个候选答案进行采样并应用基于投票或置信度的选择来提高鲁棒性,但它们仍然面临两个局限性:多样性通常是通过不可控的解码随机性注入的,而答案评估通常仅限于单个查询引发的证据视图。为了解决这些限制,我们提出了一个跨查询一致性假设:正确的答案往往在语义等效但语法多样的查询中保持高置信度,而噪声引起的幻觉在这种查询变化下表现出不稳定的置信度。基于这个假设,我们引入了 CQC-RAG,一个共同设计查询级多样性注入和跨查询一致性评估的框架。 CQC-RAG 将原始问题重写为多样化但保留意义的查询,重新排列共享文档池以构建查询条件推理上下文,应用基于证据的协议来提取答案-证据对,并根据其在这些上下文中的置信稳定性来选择答案。这种设计可以在没有外部监督的情况下进行自我评估,并且不依赖于扩大的检索覆盖范围。对四个开放域问答基准的实验表明,CQC-RAG 在 TriviaQA 上优于之前最强的多查询基线 +4.76 pp EM,在 MuSiQue 上优于 +9.12 pp EM,验证了跨查询一致性对于过滤噪声引起的幻觉的有效性。