思维的认知循环：用于高效数学推理的可逆分层马尔可夫链

多步思想链 (CoT) 通过利用显式推理步骤，显着提高了 LLM 的数学推理能力。然而，长 CoT 的广泛采用通常会导致序列长度超出可管理的计算限制。虽然现有方法试图通过马尔可夫链式结构减少 KV 缓存冗余来缓解这一问题，但它们引入了两个关键限制：固有的无记忆性（上下文丢失）和有限的向后推理能力。为了解决这些限制，我们提出了一种基于可逆分层马尔可夫链的新型思维链框架，称为认知思维循环（CLoT），以及后向推理数据集 CLoT-Instruct。在 CLoT 中，问题被分解为具有层次依赖性的子问题。受人类认知过程的启发，我们在每个层次引入了向后验证机制。此外，我们实施了剪枝策略：一旦验证了较高级别的子问题，就会剪枝冗余的较低级别的子问题以最大化效率。这种方法有效地减轻了错误传播并增强了推理的鲁棒性。四个数学基准的实验证明了我们方法的有效性。值得注意的是，在使用 GPT-4o-mini 的 AddSub 数据集上，CLoT 的准确率达到了 99.0%，分别比传统 CoT 和 CoT-SC 提高了 4.1% 和 2.9%。