长思维链推理中的流式幻觉检测

摘要

长思维链（CoT）推理提升了大型语言模型的性能，但此类场景中的幻觉往往悄然出现，并会跨推理步骤传播。我们认为，长 CoT 推理中的幻觉更适合被理解为一种演化的潜在状态，而非一次性的错误事件。据此，我们将步骤级幻觉判断视为局部观测，并引入一个累积的前缀级幻觉信号，用于跟踪推理状态在整个轨迹上的全局演化。总体而言，我们的方法实现了长 CoT 推理中的流式幻觉检测，提供实时、可解释的证据。

长思维链推理中的流式幻觉检测配图 — 图 2：探测框架概览。步级（step-level）与前缀级（prefix-level）探针均以相同的步表示 z_t 作为输入。步级探针被训练用于预测标签 A_t^step，而前缀级探针则以全局推理状态 c_t^prefix 为目标。为捕捉沿轨迹累积的幻觉效应，前缀级探针在前缀级监督 A_t^prefix 下训练，同时以步级信号 c_t^step 作为引导信号，以便准确估计 c_t^prefix。