论文

作为规划的潜在思维链:将推理与言语化解耦

Latent Chain-of-Thought as Planning: Decoupling Reasoning from Verbalization

模型架构新型架构

摘要

思想链 (CoT) 使大语言模型 (LLM) 能够解决复杂的问题,但在离散token空间中仍然受到计算成本和推理路径崩溃的限制。最近的潜在推理方法试图通过在连续隐藏状态内执行推理来优化效率。然而,这些方法通常作为从显式推理步骤到潜在状态的不透明端到端映射来操作,并且在推理过程中通常需要预定义数量的潜在步骤。在这项工作中,我们引入了PLaT(带有潜在想法的规划),这是一个框架,通过从根本上将推理与语言化解耦,将潜在推理重新表述为规划。我们将推理建模为潜在规划状态的确定性轨迹,而单独的解码器在必要时将这些想法转化为文本。这种解耦允许模型动态确定何时终止推理,而不是依赖固定的超参数。数学基准的实证结果揭示了一个明显的权衡:虽然 PLaT 的贪婪精度低于基线,但它在推理多样性方面表现出了卓越的可扩展性。这表明 PLaT 学习了一个强大的、更广泛的解决方案空间,为推理时间搜索提供了透明且可扩展的基础。

作为规划的潜在思维链:将推理与言语化解耦
图6:PLaT 与 CoT-SFT 的分支因子(Branching Factor)对有效步数(Valid Step Count)的散点图。不含中间步骤的样本被排除。图形被划分为 16 个区域。每个区域的样本数以及相对于另一方法的差值标注在各区域的右上角。