EvolveNet：用于智能体自我改进的协作式Harness进化

LLM 代理的功能不仅取决于其模型，还取决于工具：构建上下文、调用工具、验证结果以及从故障中恢复的可执行程序。最近的研究表明，改进Harness可以在不更新模型权重的情况下带来持续的改进。然而，现有方法假设所有执行体验都可以路由到单个优化器，该优化器沿着顺序轨迹发展一个工具。真正的代理生态系统违反了这一假设：用户、组织和环境生成无法汇集的孤立的经验流，因此最值得学习的经验正是无法直接集中的经验。我们引入了 EvolveNet，这是一种协作工具进化范例，可将经验提取转移到数据中。共享Harness被广播到数据本地代理部署，每个部署都根据自己的工作负载进行发展。只有最终的程序调整才会被组成更新的共享工具并重新分发，以便每个参与的代理都继承其他代理发现的操作经验。通过将聚合边界从原始工作负载转移到学习适应，EvolveNet 将工作负载保持在本地，并允许多个进化搜索以减少的串行深度同时进行。由于独立修改的程序无法像模型参数那样进行平均，并且在组合时可能会发生冲突，因此 EvolveNet 引入了范围类型、证据引导的程序聚合。在涵盖文本到 SQL、数据科学编码、竞争性编程、软件工程和代理工作流程的五种设置中，EvolveNet 改进了所有五种设置中的共享工具，在异构工作负载下获得了最大的收益，并且消融将改进归因于不同代理的适应组合，而不是在它们之间进行选择。