注意力分散作为大语言模型中幻觉的诊断信号

大型语言模型 (LLM) 经常表现出幻觉，这对复杂推理任务的可靠性构成了主要障碍。虽然传统的检测方法依赖于基于输出的置信度度量，但现代对齐技术经常会错误校准这些logits。在本文中，我们研究了内部注意力机制的时间波动性，作为不依赖于输出校准的幻觉的替代诊断信号。通过引入注意力分散的无监督度量，我们表明认知不确定性在中间层中留下了可测量的痕迹，其中注意力熵的峰值与推理故障相关。我们使用 Qwen2.5 模型系列（1.5B 和 3B 参数）在数学推理基准（GSM8K 和 MATH-500）上评估我们的方法，发现在所有测试条件下，与基于输出的基线相比，统计上显着的 AUC 改进高达 +0.076。这些发现表明，注意力分散是对传统幻觉检测方法的一个有希望的补充，需要在更广泛的模型家族和任务领域进行进一步研究。