用于检索增强生成的双置信对比解码

检索增强生成 (RAG) 越来越需要模型来回答多个检索到的文档中的问题，其中只有某些来源是相关的，并且检索到的数据包可能包含陈旧、嘈杂或相互冲突的证据。现有的对比解码方法主要集中于解决模型的内部存储器和检索到的上下文之间的冲突。相反，我们研究多文档 RAG 中上下文内冲突的互补问题。为了评估这种设置，我们引入了 DRQA，这是一种源自企业深度研究场景的事实冲突问答基准，其中答案基于合成的企业特定事实，这些事实被设计为无法从模型的内部存储器中恢复。我们进一步提出了双重置信对比解码（DCCD），这是一种 无需训练 解码方法，它结合了文档级置信度（估计文档是否足以回答问题）和 词元级 置信度（估计该文档是否支持置信的下一个标记预测）。 DCCD 使用这些双置信信号选择正文档条件流和负文档条件流，并通过置信裕度缩放文档级对比度。在 DRQA 和标准多文档 QA 基准测试中，DCCD 在全上下文和对比解码基线中实现了最佳平均性能，其中 DRQA 的增益最大。这些结果凸显了当检索到的证据存在内部冲突时，源感知、置信门控解码的重要性。