NeuReasoner：基于理论的推理启发边界映射

越来越多的工作表明，大语言模型 的推理能力很大程度上隐藏在其基本形式中，而 后训练 主要是放大而不是引入它们。然而，这一证据主要来自数学和编码基准，而该主张的边界条件在很大程度上尚未得到探索，即哪些认知任务可以通过启发来恢复以及恢复失败的地方。为了研究这个问题，我们引入了 NeuReasoner，一种基于理论的启发工具。在每一步中，编排器都会将受功能特异性启发的神经透镜与源自情欲推理理论的认知透镜配对，并通过单个模型的内部模块化来集成它们的输出，而无需外部工具。我们在 CogBench（一套来自认知心理学的行为任务）以及标准数学和编码基准上评估 NeuReasoner，衡量其相对于普通推理的改进以及匹配模型训练后思维模式的能力。在足够的规模上，NeuReasoner 在算术推理、代码生成、贝叶斯推理和奖励学习方面达到或超过了思维模式基线；这些收益在与 NeuReasoner 的每次决策调用预算相匹配的自我一致性和迭代细化基线上持续存在。使用 NeuReasoner 可以让我们找到清晰的界限：不确定性下的冒险和决策仍然很难仅通过启发来恢复，模型规模与启发在两个方向上相互作用：扩大其在某些认知特征上的优势，同时消除在其他认知特征上的优势。总体而言，通过 NeuReasoner 作为一种模块化、可解释、以理论为基础的启发工具，我们凭经验绘制了推理启发成功和失败的地方，超越了先前主张所依据的数学和编码基准。