超越承诺边界：探索大型推理模型中的附带思维链

思想链 (CoT) 推理是语言模型中推理时间缩放的主导范例，但各个步骤对最终答案的因果影响仍然知之甚少。在这项工作中，我们在每个推理步骤结束时使用答案 logits 来估计每个步骤对最终答案和中间猜测的因果重要性，从而揭示了几个推理模型系列的答案形成过程。在不同的任务中，我们发现推理通常会跨越承诺边界，即从短暂的中间猜测到稳定的、高可信度答案的急剧转变。这种转变通常发生在模型推理块结束之前的一个步骤中，然后是附带的 CoT 步骤，使最终答案概率保持不变。使用注意力探针，我们证明答案形成阶段可以从中间推理步骤的激活中高精度地线性解码，从而显示出对看不见的推理任务的稳健泛化。我们利用这一特性在承诺边界位置提前退出推理块，将 CoT 的长度减少达 55%，对模型性能的影响可以忽略不计。