论文
逻辑一致性作为桥梁：通过响应和自我判断之间的标签约束建模改进 LLM 幻觉检测
Logical Consistency as a Bridge: Improving LLM Hallucination Detection via Label Constraint Modeling between Responses and Self-Judgments
摘要
大语言模型 (LLM) 很容易出现事实幻觉，从而影响其在现实应用中的可靠性。现有的幻觉检测器主要提取微观层面的内在模式进行不确定性量化或通过语言提示引发宏观层面的自我判断。然而，这些方法仅解决幻觉的一个方面，要么关注隐含的神经不确定性，要么关注明确的符号推理，从而孤立地对待这些固有耦合的行为，而未能利用它们的相互依赖关系来获得整体观点。在本文中，我们提出了 LaaB（逻辑一致性桥），这是一个连接神经特征和符号判断以进行幻觉检测的框架。 LaaB 引入了“元判断”过程，将符号标签映射回特征空间。 LaaB利用固有的逻辑桥梁，根据自我判断的语义，响应和元判断标签相同或相反，通过相互学习对齐和集成双视图信号，增强幻觉检测。针对 8 个基线，在 4 个公共数据集、4 个 LLM 上进行的广泛实验证明了 LaaB 的优越性。