确保推测检索增强生成中忠实的证据提取

大语言模型 (LLM) 越来越多地用作信息检索的接口，但它们仍然容易产生幻觉和 忠实性 错误，其中生成的答案与检索到的证据不同。虽然检索增强生成（RAG）和最近的混合或半提取方法缓解了这个问题，但它们不能保证引用或提取的跨度是从检索的上下文中逐字提取的。这种限制可能会在安全关键领域产生严重后果，其中答案必须与经过认证的文档完全匹配。我们引入约束混合解码 (CHyD)，这是一种新颖的 忠实性-first 推测 RAG 范例。虽然传统的 推测解码 针对推理速度进行了优化，但 CHyD 重新利用了该架构，以确保在正确触发提取模式时忠实地逐字证据提取。我们的方法强制执行硬解码约束，将生成限制为检索到的文档中存在的连续范围。这种设计提供了强大而直接的保证：输出中任何明确引用的跨度都会在提供的上下文中逐字显示。我们在各种抽象、提取和半提取 QA 基准（包括由飞机维护驱动的技术数据集）上跨最先进的 LLM 评估我们的方法。结果表明，现有的混合方法经常产生幻觉引用的跨度，在技术领域，准确的提取精度下降到 40% 以下。相比之下，无论使用什么模型，我们的方法都实现了近乎完美的提取 忠实性。尽管实施硬约束会带来与流畅性指标之间的权衡，但我们的方法提高了精确答案的正确性并保持整体竞争力，突出了其对安全关键型信息检索应用的适用性。