论文
CITE:LLM 自洽中随时有效的统计推断
CITE: Anytime-Valid Statistical Inference in LLM Self-Consistency
摘要
大语言模型 通常通过对多个输出进行采样并汇总其最终答案来改进推理,但精确有效地控制错误级别仍然是一项具有挑战性的任务。特别是,当停止规则依赖于数据并且事先不知道可能的答案集时,决定何时停止采样仍然很困难。我们研究对预先指定的目标答案的任何时间有效的认证,作为模型响应分布的独特模式,这是与答案正确性不同的保证。我们提出了通过交叉联合测试与电子流程(CITE)算法进行认证,该算法可以证明在任意数据驱动的停止下控制任何规定级别的错误认证,而无需事先了解答案类别集。我们还证明了一个与类别集大小无关的停止时间率,建立了主体系中常数的匹配极小极大下界,并将该构造扩展到置信加权投票。模拟和 LLM 自一致性实验显示了扩散尾部设置中的经验误差控制和改进的认证。