论文

SAGE:自我进化Agent的统计接受门

SAGE: A Statistical Acceptance Gate for Self-Evolving Agents

智能体系统Agent Harness智能体自我改进

摘要

基于大语言模型 (LLM) 的Agent通过编辑对其工作流程、工具使用规则和决策逻辑进行编码的持久技能文档,不断自我进化。该循环有两个步骤,一个提出候选编辑的优化器和一个接受或拒绝它的门。之前的工作集中在优化器上,而门仍然遵循一个简单的规则,即保留任何可以提高总体验证分数的编辑。我们证明这条规则在两个方面失败了。首先,它承认永久回归,因为编辑可以提高平均值,同时破坏技能已经解决的项目。其次,它很容易受到优化器诅咒的影响,因为在有限且嘈杂的验证集上观察到的最佳分数是向上偏差的。为了解决上述两个限制,我们提出了一种自我进化Agent的统计接受门(SAGE)。与之前的工作相比,SAGE 有两个贡献。首先,SAGE 提出了按项目配对比较,评估相同验证项目上的当前技能和编辑后的技能,这暴露了总分隐藏的回归,并对它们进行不对称的惩罚。其次,SAGE 还采用了一种单方面的配对测试,仅当其获胜相对于其损失在统计上可靠时才进行编辑,否则放弃。 SAGE 是标准门的保守改进,可在边界设置处精确恢复基线。它仅提交基线编辑的子集,过滤掉那些收益不可靠或通过破坏已解决的项目购买的内容。在等预算协议下的五个基准和四个骨干大语言模型中,SAGE 降低了 20 个设置中的 19 个设置中的回归率,并与其余设置中的基线相匹配,例如,使用 DeepSeek-V4 将 LiveMath 从 36.5% 降至 0%,将 OfficeQA 从 42.8% 降至 0%。 SAGE 还在所有 20 个设置中获得了最高的最终分数,将 LiveMath 从 34.15 提高到 48.78。