论文

超越并行采样:智能体搜索的多样查询初始化

Beyond Parallel Sampling: Diverse Query Initialization for Agentic Search

模型推理测试时计算扩展

摘要

智能体搜索的测试时扩展通常增加深度(每轨迹更多轮与token)或广度(更多并行rollout)。此处我们聚焦广度扩展——表明标准并行采样产生递减收益——并追溯到首轮的查询冗余。当模型在各rollout上发出相似的首查询时——各线程检索重叠证据——后续轮次以该共享检索为条件。我们以DivInit解决该局限——首轮的免训练干预。DivInit不从k条独立首查询采样——而是从单次调用抽取n个候选——挑出k<n个多样种子——作为并行轨迹运行。跨五个开放权重模型与八个基准——DivInit持续超越标准并行采样——在等算力下多跳问答平均增益五到七分。代码见 https://github.com/cxcscmu/diverse-query-initialization。

超越并行采样:智能体搜索的多样查询初始化:论文配图
图 1:顺序执行、标准并行采样和我们名为 DivInit 的方法下检索路径探索的概念图。