用于检索增强生成中幻觉检测的证据对齐实体验证

幻觉检测对于大型语言模型 (LLM) 至关重要，因为幻觉内容在需要事实准确性的应用程序中造成了重大障碍。当前的检测方法主要依赖于不确定性和自我一致性检查等内部信号，使用模型的预先训练的知识来识别不可靠的输出。然而，预先训练的知识可能会变得过时并且具有覆盖范围限制，特别是对于专门的或最新的信息。为了解决这些限制，检索增强生成（RAG）已成为一种有前途的解决方案，它通过在推理时检索相关证据，将输出置于模型参数知识之外。在本文中，我们针对一个基于 RAG 的幻觉检测 (RHD) 的关键且实用的学习问题，其中 RAG 用于通过解决信息更新挑战来增强幻觉检测。为了解决 RHD，我们提出了一种新方法证据对齐实体验证（EAEV），它通过利用 RAG 将生成的实体与检索到的证据上下文对齐来检测实体级幻觉。具体来说，EAEV 通过三个互补维度评估实体-证据一致性，并引入反事实稳定性分析，以确保证据扰动下的稳健一致性。跨多个 RAG 基准的实验表明，EAEV 凭借强大的泛化能力实现了对现有方法的持续改进。