论文

分享更多,搜索更少:协作并行思维可有效扩展测试时间

Share More, Search Less: Collaborative Parallel Thinking for Efficient Test-Time Scaling

模型推理推理搜索与路径规划

摘要

测试时间缩放 (TTS) 通过分配额外的推理计算来探索解决方案空间,从而增强了 大语言模型 的推理能力。然而,现有的并行 TTS 方法通常在搜索过程中保持分支隔离:中间发现仍然是分支私有的,无法及时指导其他分支。这种信息隔离导致了大量的冗余探索,因为分支反复重新发现在其他地方已经找到的信息,并且需要更多的搜索步骤来收集获得正确答案所需的完整决策信息。为了弥补这一差距,我们提出了 \textbf{协作并行思维(CPT)},这是一个 无需训练 推理框架,可以实现跨并行分支的搜索时信息共享。 CPT 从正在进行的分支中提取紧凑的中间信息,维护重复数据删除的查询级信息池,并通过输入上下文广播池条目,从而允许后续搜索步骤中的每个分支重用其他分支的发现,而不是重新发现相同的信息。根据经验,HMMT 和 AIME 基准的实验表明,CPT 在轨迹采样预算和模型规模上建立了比强基线更强的准确性 - 延迟帕累托前沿,强调搜索时协作是高效并行 TTS 的有效方向。