论文
中继,而非路由:自适应群体切换,实现经济高效的 LLM 驱动的演进
Relay, Don't Route: Adaptive Population Handoff for Cost-Efficient LLM-Driven Evolution
摘要
大语言模型 (LLM) 驱动的进化已显示出程序搜索和算法发现的前景,但在长期进化运行中依赖强大的模型成本高昂。一个自然的替代方案是在固定的推理预算下结合廉价且强大的模型。然而,现有的方法通常在单个查询或突变步骤的级别上分配模型,忽略了进化搜索是有状态的:每个生成的候选者都会改变产生后续突变的群体。我们对 LLM 驱动的进化轨迹进行了实证分析,发现搜索进度是强烈前载的,早期轨迹性能信息丰富但有噪音,并且廉价模型以较低的成本恢复了强大模型所取得的大部分早期进展。受这些发现的启发,我们提出了 \textbf{\model},一个 无需训练 框架,通过自适应 \textit{群体切换} 将预算分配从个人呼叫转移到不断变化的群体。一个廉价的模型探索由强盗调度程序分配的短块中的多个轨迹。中继增益定义为为切换而构建的紧凑的、质量多样化的候选库的边际改进,充当调度程序奖励并确定何时切换。策划的候选者初始化一个共享的强大模型群体以进行细化。在四个基准和三个预算中,\model 在 12 个设置中的 11 个设置中取得了最高平均得分,优于竞争基准。我们的结果表明,在状态搜索中,预算分配应围绕总体而不是个人需求进行组织。