哥德尔森林：平衡搜索深度和广度以实现以数据为中心的递归自我改进
Gödel Forest: Balancing Search Depth and Breadth for Data-Centric Recursive Self-Improvement
摘要
递归自我改进（RSI）旨在通过模型自我改进来实现复合收益。虽然大多数现有 RSI 系统围绕冻结的基础模型优化外部Agent Harness或提示，但以数据为中心的 RSI 通过对Agent生成的数据进行训练来直接更新模型自身的参数。然而，由于验证数据策略需要昂贵的模型训练，现有方法面临着一个根本性的困境：单个Agent陷入狭窄的方向并缺乏探索广度，而幼稚的并行搜索或大量的跟踪共享则牺牲了长范围的搜索深度。为了应对这一挑战，我们引入了 G"odel Forest，一个多Agent框架，它将递归自我改进组织为共同进化搜索树的集合。在 G"odel Forest 中，每个Agent自主生长一棵持久树，根据模型反馈加深、分支或修剪数据策略以确保深度，而并行树则探索数据空间的不同区域以扩展广度。至关重要的是，动态共同进化的内存不会让树木孤立或充斥大量执行日志，而是将森林连接起来：智能体不断将其成功和失败提炼成紧凑的程序教训，并锚定在全球排行榜上。通过这个森林生态系统，一棵树的死胡同会立即警告整个森林不要走上没有希望的道路，而经验上的突破很快就会在邻近的树上播下新的探索分支。在六个不同领域的 RSIBench-Data 上进行评估，G"odel Forest 的性能平均优于单Agent基线 10.70%，同时减少了五项任务的挂钟时间。消融证实，共同进化共享内存比独立并行搜索产生 +7.00% 的增益，这表明集体蒸馏是可扩展自我改进的关键。该代码可在 https://github.com/evolvent-ai/Godel-Forest. 上获取