思想状态促进内生推理

测试时计算已成为提高大型语言模型 (LLM) 功能的主要方法。然而，现有的测试时推理范例严重依赖于外部强加的控制，无论是通过固定的推理程序还是通过受限搜索空间中昂贵的扩展，限制了泛化和效率。我们提出了思想状态（SoT），这是一种新的推理范式，可以在大语言模型中实现内生推理，模型的内部推理状态控制着推理的展开方式。具体来说，SoT 从模型的内部信息传输中提取紧凑的动态几何状态，并使用冻结主干上的 582 个参数控制器来选择性地激活在当前推理状态下有用的历史推理支持，将推理框架为基于证据的状态条件过程，而不是外部规定的词元链。在 3 个 LLM 和 16 个数据集上的定量 (1.34x)、一般 (1.62x)、符号和代码 (1.76x) 和长上下文 (2.51x) 推理中，SoT 持续提高平均基线准确性，同时将生成的词元减少 62.6%，将端到端延迟减少 44.6%。在 2 个 VLM 尺度和 3 个推理任务中，它的平均准确度比推理基线提高了 3.8 个百分点，与基于搜索的方法相比，完成标记减少了 74.9%，延迟降低了 73.5%。在访问受限的情况下，SoT 在免训练/仅嵌入设置中保留了 38.2%/36.5% 的平均准确率增益，而仅轨迹判断在 3 个 API 模型中达到了 84.1% 的一致性。总之，内生状态驱动推理提供了一种可推广且有效的替代方案。