自适应自一致性：从黑盒采样到分布值反馈

自我一致性对许多推理轨迹进行采样并汇总它们的最终答案，将 LLM 视为一个黑匣子，每个轨迹返回一个答案。然而，每个轨迹的最终答案是从模型的对数概率中获得的 softmax 向量中采样的。我们将其称为灰盒设置，其中每个轨迹都揭示了这个答案分布，而不是从中进行的一次绘制。我们在此设置中将有效的推理公式化为具有分布值观察的顺序模式识别：一次一个样本轨迹，并在规定的置信水平识别出大语言模型的模态答案后立即停止。我们用分布值观测准确地描述了模式识别的渐近停止率，并表明它永远不会比黑盒率差。然后，我们提出了 ASC-D 算法，这是一种达到这种渐近停止率的投注停止规则。在 MMLU-Redux 上，ASC-D 使用的轨迹比仅答案自适应自我一致性基线少 46.4$--$95.6\%$，并在三个开源模型中实现了最高的固定预算正确认证率。