ERA：基于证据的可靠性调整，实现诚实检索增强生成

检索增强生成（RAG）将语言模型建立在事实证据的基础上，但引入了有关内化参数和检索信息之间的知识冲突的关键挑战。然而，现有的可靠性方法通常依赖于标量置信度，无法明确地区分这种混合场景中的认知不确定性和固有数据模糊性。在本文中，我们提出了一种称为 ERA（基于证据的可靠性对齐）的新框架，通过将置信度估计从标量概率转变为显式证据分布来增强 RAG 系统中的弃权行为。我们的方法由两个主要组成部分组成：(1) 上下文证据量化，通过狄利克雷分布将内部和外部知识建模为独立的信念质量；(2) 量化知识冲突，利用登普斯特-谢弗理论 (DST) 严格测量信息源之间的几何不一致。这些组件用于将认知不确定性与任意不确定性分开，并根据检测到的冲突调整优化目标。标准基准和精选泛化数据集的实验表明，我们的方法显着优于基线，通过卓越的校准优化了答案覆盖率和弃权之间的权衡。