证据约束解码：忠实 RAG 的检索锚定概率融合

随着检索增强生成（RAG）系统的规模扩大，确保外部证据的忠实基础变得越来越具有挑战性。当出现冲突时，大语言模型 仍可以优先考虑参数知识而不是检索到的信息。我们提出了一种新颖的 无需训练 解码框架，\emph{Grounded Decoding}，旨在提高 RAG 中的事实一致性，而无需修改模型参数。与依赖于单个条件分布的标准方法不同，我们的方法在每个生成步骤构建两个匹配提示分布：（1）以查询、检索到的文档和生成的前缀为条件的完整 RAG 分布，以及（2）仅以检索到的证据和相同前缀为条件的仅检索分布。最终的下一个词元分布是作为概率单纯形上 KL-重心目标的唯一解而导出的，从而产生两个分布的归一化几何融合。当证据约束权重为零时，该公式自然地恢复标准 RAG，并随着证据约束强度的增加，将概率质量平滑地移向检索到的证据。我们进一步引入了一种冲突感知自适应加权方案，该方案根据分布分歧和 检索器 置信度动态调整证据约束。 ALCE、自然问题和 FActScore 的实验表明，事实准确性和引文质量相对于标准 RAG 和竞争性解码时间基线有持续改进，同时保持流畅性。我们的结果表明，概率级融合为忠实的 RAG 解码提供了 logits 级干预方法的强大而有效的替代方案。