从分布外检测到幻觉检测：一个几何视角

检测大语言模型中的幻觉是一个关键开放问题，对安全性与可靠性具有重大影响。尽管现有幻觉检测方法在问答任务中取得了强劲表现，但它们在需要推理的任务上仍然效果较差。在本工作中，我们通过分布外（OOD）检测的视角重新审视幻觉检测，OOD检测是计算机视觉等领域中一个被充分研究的问题。将语言模型中的下一词预测视为分类任务，使我们能够应用OOD技术，前提是进行适当修改以顾及大语言模型的结构差异。我们证明，基于OOD的方法可产生免训练、基于单样本的检测器，在推理任务的幻觉检测中取得强劲的准确率。总体而言，我们的工作表明，将幻觉检测重新框架化为OOD检测，为语言模型安全提供了一条有前景且可扩展的路径。