通过动态系统预测对 LLM 幻觉进行低成本黑盒检测

大语言模型 (LLM) 经常产生看似合理但非事实的内容，这种现象称为幻觉。虽然现有的检测方法通常依赖于计算成本高昂的基于采样的一致性检查或外部知识检索，但我们提出了一种将 LLM 视为黑盒动态系​​统的新方法。通过嵌入模型将 LLM 响应投影到高维流形中，我们将所得向量序列表征为模型潜在状态空间动力学的可观察实现。利用库普曼算子理论，我们拟合了事实和幻觉状态的转移算子，并根据各自的预测误差定义了差分残差分数。这种方法可以在单次采样中实现低成本幻觉检测，无需二次采样或外部证据核验。跨三个数据基准的广泛测试表明，我们的方法在减少资源开销的情况下实现了最先进的性能。