论文
BONSAI:以可进化性为指导的技能树搜索
BONSAI: Evolvability-Guided Tree Search over Skills
摘要
技能(skill)是一份引导冻结智能体的自然语言文档,该智能体的权重无法更新,因此其缺失的任何能力都必须以文字形式提供。因此,优化技能就是针对某个分数优化文本,而“保留任何能提升留出分数的编辑”这一标准做法存在一种特定的盲区:单一分数无法区分一份悬在狭窄过拟合尖峰上的文档与一份坐落在宽广平台上的文档,尽管只有后者仍有改进空间。我们提出BONSAI,一个转而以可进化性(evolvability)为导向的技能优化框架:可进化性指文档空间某个区域在进一步变异下持续产出可行变体的能力,生物学将其视为与当下适应度不同的属性。BONSAI将技能培育为一棵蒙特卡洛搜索树,其中每个子文档都是对父文档的一次变异,并依据上置信选择规则在树上下行,其利用项将技能自身适应度与其变异邻域的适应度相混合。由于每个子节点都是一次变异,节点下方记录的平均分数无需额外代价即可估计该邻域的可进化性,因此该规则将预算集中于持续改进的区域,同时其探索项让当前较弱的分支保持竞争。BONSAI交付其所找到的分数最高的单个文档,除取代原有的“更优即保留”循环外没有任何额外成本。使用冻结的30B智能体并在三个基准上取平均,BONSAI将留出准确率相比无技能智能体提升23.13点,并比两个预算匹配的基线GEPA与SkillOpt分别高出3.87点和3.97点。
