自由能启发式:不确定精度下作为主动推理的快速节俭认知
Free Energy Heuristics: Fast-And-Frugal Cognition as Active Inference Under Uncertain Precision
摘要
思想链 (CoT) 提高了 大语言模型 在数学和符号推理方面的表现。但在规划、有争议的道德规范以及模型无法自我检查的任务上,更多的推理会让事情变得更糟。这两种影响都有记录;所缺少的是对哪个属性决定结果的原则性说明。我们认为这是元不确定性:模型对其自身证据的可靠性有多不确定。当不确定性很高时,额外的推理就会停止添加信号并开始制造错误的信心。我们证明,当精度先验是重尾(定理 2.6.1)时,在不确定精度下最小化预期自由能的策略在有限数量的高有效性线索之后停止整合线索,并且在降序优势条件下,在样本方面与采取最佳(定理 2.7.4)相同。因此,快速节俭的启发式方法和主动推理是同一计算的两种描述。预测是,对于高元不确定性的项目,较长的 CoT 会降低准确性。我们对每个项目的体系进行评分(模拟和恢复 rho > 0.96),构建 FEH-79(具有匹配控制的 Knightian 框架基准),并在七个模型(五个开放权重 3B-32B,两个前沿)、五个 CoT 长度和 7,875 个响应中运行预注册研究。该门在任何数据之前固定,需要后验概率高于 0.95 的负交互作用,并且准确度下降超过 6 个点。它成立了。高位下降为 17.3 个点(95% CI [7.7, 25.5]);具有明确答案的匹配项目显示没有成本。这种效应与制度有关:在有能力的中型到大型模型中具有决定性作用,在两个前沿系统中具有方向性,在最弱的模型中则缺乏或逆转。当 CoT 帮助并统一贝叶斯和快速节俭的传统时,该框架给出了答案:少即是多的效果是关于元不确定性制度的证据,而不是反对贝叶斯认知。