NoisyCoconut：通过潜在空间推理达成反事实共识

本文提出了 NoisyCoconut，这是一种新颖的推理时间方法，通过操纵内部表示来增强 大语言模型 (LLM) 的可靠性。与需要大量重新训练的 微调 方法不同，NoisyCoconut 在推理过程中直接对模型表示进行操作，不需要重新训练。我们不是训练模型在潜在空间中进行推理，而是将受控噪声注入到潜在轨迹中以生成不同的推理路径。这些路径之间的一致性提供了信心信号，使模型能够在不确定时放弃。我们证明，这种方法可以在多个推理基准上实现有效的覆盖率与准确性的权衡，而无需访问训练数据或修改模型参数。这种方法提供了一种实用的途径来提高 LLM 输出的可靠性，同时保持与现有模型的兼容性。我们的实验表明，受噪声扰动的路径之间的一致一致性可将错误率从 40-70% 降低到 15% 以下，通过选择性放弃，使模型在数学推理任务上的准确率超过 95%。