琐碎词汇禁令比深层语言限制更能改善 LLM 推理

之前的一项研究报告称，E-Prime（没有动词“to be”的英语）选择性地改变了语言模型中的推理，跨模型相关性表明与删除的词汇相关的结构特征。我设计了一个带有主动控制的复制来测试所提出的机制：通过特定的词汇认知映射进行认知重组。该实验在六个模型和七个推理任务中测试了五种条件（无约束控制、E-Prime、No-Have、详细的元认知提示、中性填充词禁令）（N = 15,600 次试验，合规性过滤后为 11,919 次）。认知重组假说的每一个预测都被证实了。所有四种治疗均优于对照 (83.0%)，包括预计显示无效效果的两种活性对照。中性填充词禁令（禁止“very”和“just”等在逻辑推理中不起任何作用的词）产生的改进最大（+6.7 pp），而 E-Prime 产生的改进最小（+3.7 pp）。这四个条件按照理论深度的完美倒序排列。跨模型相关性特征未复制（平均值 r=0.005）。这些结果与更简单的机制一致：任何迫使模型偏离其默认生成路径的约束都充当输出正则化器，通过破坏流畅但浅层的响应模式来改进推理。最浅的约束效果最好，因为它们以最小的概念干扰施加监控负载。我将这些发现作为通过否定进行发现的案例研究来呈现。