充满信心地思考

并行思维在提高 LLM 推理任务性能方面取得了巨大成功，无需任何重新训练。然而，现有的方法遵循先思考后决定的范式，即它们首先对多个推理路径进行采样，这不可避免地导致过度生成，然后修剪或停止不必要的路径进行补偿。相比之下，“先决定，然后思考”，即首先确定可能导致理想世代的点，迄今为止尚未得到充分探索。遵循这一范式，我们提出充满信心的分叉思考，首先使用单个播种路径中的模型置信度来识别分叉点，然后触发思考，对多个延续进行采样并将它们聚合以获得最终响应。我们对三个模型和三个推理基准的实验表明，Fork-think 将词元消耗减少了高达 30%，运行时间减少了高达 57%，同时性能与并行思维相当或更好。我们的分析表明，分叉思维能够识别对下游任务有意义的分叉点，并且在后面的位置进行采样可以产生更好的生成。最后，我们演示了如何将分叉思维与提前停止和加权投票等现有机制相结合，可以进一步提高性能，并与现有最先进的方法相媲美，而无需任何预热或离线训练。我们的结果将预定分叉确立为高效 LLM 推理的有前途的研究方向。