循环推理：理解大推理模型中的自我强化循环

尽管测试时扩展取得了成功，大型推理模型（LRM）仍频繁遇到重复循环，导致计算浪费和推理失败。本文识别出一种被称为循环推理（Circular Reasoning）的独特失效模式。与传统的模型退化不同，该现象表现为一种自我强化的陷阱：生成的内容成为自身复现的逻辑前提，迫使模型重复先前的文本。为系统分析这一现象，我们提出LoopBench，一个用于捕捉两类不同循环形态的数据集：数值循环和语句循环。在机制上，我们将循环推理刻画为一种具有明确边界的状态坍缩，其中语义重复先于文本重复出现。我们揭示，推理僵局会触发循环起点，随后该循环在自我强化的V形注意力机制驱动下持续存在，成为无法摆脱的循环。在这些发现的指导下，我们采用累积和（CUSUM）算法捕捉这些前兆，实现循环的早期预测。在多种LRM上的实验验证了其准确性，并阐明了长链推理的稳定性。