超越语义相关性：稳健检索增强生成的反事实风险最小化

标准检索增强生成（RAG）系统主要依赖语义相关性作为效用的代理。然而，这种假设在现实的决策场景中崩溃了，在这种场景中，用户查询充满了认知偏差，例如错误前提或确认偏差。在这种情况下，最大化相关性反而会促进对阿谀奉承证据的检索，从而强化幻觉，这是我们称之为“相关性-稳健性差距”的严重失败。为了弥补这一差距，我们提出了 CoRM-RAG（RAG 的反事实风险最小化），这是一个将检索与决策安全性（而不仅仅是相似性）结合起来的框架。基于因果干预，我们引入了认知扰动协议来模拟训练期间的用户偏差，然后将其提炼成轻量级的证据批评家。该评分模块学习识别具有足够证据强度的文档，以引导模型走向正确性，尽管存在对抗性查询扰动。对决策基准的大量实验表明，CoRM-RAG 在对抗性设置中显着优于强密集 检索器 和基于 LLM 的重排序器，同时通过可靠的鲁棒性评分实现有效的风险意识弃权。我们的代码可在 https://github.com/PeiYangLiu/CoRM-RAG.git 获取。