论文

世界不会静止:面向Agent基准的可编程演化

The World Won't Stay Still: Programmable Evolution for Agent Benchmarks

智能体系统Agent任务评测

摘要

LLM 支持的代理通过与环境交互、查询数据以及在多轮流程中调用工具来满足用户请求。然而,大多数现有基准假设具有固定模式和工具集的静态环境,忽略了现实世界的进化本质和代理对环境变化的鲁棒性。在本文中,我们研究了一个关键问题:如何以可扩展、可控的方式演化智能体环境,从而更好地评估智能体对现实世界动态的适应性。我们提出了 ProEvolve,一个基于图形的框架,可以使环境演化变得可编程。从本质上讲,类型化关系图提供了环境的统一、显式表示:数据、工具和模式。在这种形式下,添加、删除或修改功能被表示为图形转换,这些图形转换在工具、模式和数据访问之间连贯地传播更新。在此基础上,ProEvolve 可以 (1) 将进化动力学编程为图转换以自动生成环境,以及 (2) 通过子图采样和编程来实例化任务沙箱。我们通过将单个环境演变成 200 个环境和 3,000 个任务沙箱来验证 ProEvolve,并相应地对代表性代理进行基准测试。

世界不会静止:面向Agent基准的可编程演化
图1:可编程环境演化与基于图的任务实例化的端到端工作流。环境图通过可编程的图编辑进行演化,并被转换为可执行代码(左)。随后,通过采样子图并将状态维度的用户意图与数据实体化为可运行的沙箱实例来生成任务(右),从而在演化环境中实现受控评估。