TrAC：以轨迹条件化的答案一致性高效量化LLM不确定性

大语言模型（LLMs）可以生成流畅的推理轨迹，尽管这些轨迹最终导致错误的答案，因此响应级不确定性估计对于弃答、人工复核和适应性计算分配非常重要。现有的方法通常分为三类：被动单轨迹方法使用令牌级置信信号，采样方法在更高的生成成本下比较多个完整轨迹，而主动前缀方法则通过探查部分轨迹来研究答案稳定化或偏好转换。然而，所有方法都没有主动从完成的推理轨迹中重新提取答案以测量其与原始答案的一致性及其对原始答案的支持。为了解决这一差距，我们引入了轨迹条件答案一致性（TrAC），这是一种结合主动和被动信号的正确性监督不确定性量化框架，这些信号锚定在一个完成的推理轨迹上。其主动组件，前缀条件提取（PCE），在完成的轨迹上条件性地重新提取一个简短的答案，并表示其与原始答案的一致性及其令牌级概率性支持。其被动组件，轨迹不确定性概览（TUP），则总结了在整个原始生成过程中令牌级不确定性的变化，而无需额外解码。然后，一个轻量级的头将这两个表示集成到一个响应正确性分数中。在五个数学推理基准和三个LLM家族中，TrAC在宏观AUROC上提高了1.8%，相对八样本自一致性将AURC降低3.4%，使用一个完整的推理轨迹和简短的缓存答案探查。当八样本已经可用时，进一步增强样本共识以重新提取答案进一步将宏平均AUROC提高4.3%，并将AURC降低8.3%，而无需额外生成完整轨迹。