AI研究Agent的递归自我改进

AI Agent开始自动化AI技术栈各环节的研发，从提升训练效率到优化推理。一个自然的下一步是提升Agent自身的研究效率。当AI研究Agent自己的代码成为优化对象时，每一次被接受的改写都会成为下一轮被编辑的Agent。我们将这一循环称为递归自我改进（recursive self-improvement）。其重要性在于一个长期趋势：研发累计投入的增加带来边际收益递减，而持续的自我改进提供了一种对抗这一趋势的方式。我们提出AIDE^2，一个为前沿AI研究Agent实现这一循环的系统。它对自己的代码提出修改，在一套AI研发任务上对修改后的自身版本进行基准评测，并保留在隐藏评测中表现最好的修改。在一次为期8天的自主运行中，AIDE^2发现了七项连续的改进，从新的搜索策略到压缩并管理Agent不断增长的上下文的记忆机制。这些收益泛化到四个留出基准，涵盖机器学习工程、启发式算法工程和基于物理的天气预测，最后一项相对选择任务属于分布外。在全部四项上，最强的新发现Agent达到或超过了在FML-Bench上名列前茅的人类工程化生产研究Agent。在一个单独的留出任务族上，新发现的Agent还表现出更少的奖励作弊——这是该循环从未显式优化过的属性：运行期间作弊率从55%降至32%，比人类工程化Agent低7个百分点。这些结果共同表明，AI研究Agent可以通过递归自我改进提升自身研究效率，且这些收益能迁移到该循环从未接触过的任务与领域。