论文
RecreationWorld:混合计算机使用代理的可扩展且可验证的环境
RecreationWorld: Scalable and Verifiable Environments for Hybrid Computer-Use Agents
摘要
计算机使用代理(CUA)沿着两条不同的路线发展:图形交互以及通过代码和命令行进行的软件开发。真正的数字工作需要两者,交错而不是端到端堆叠。我们研究混合 CUA,它们自主决定何时探索界面、实现软件以及运行和直观地验证其工件。我们引入了 RecreationWorld,这是一个围绕娱乐构建的五平台框架:给定一个正在运行的参考,代理必须发现其行为并在没有规定工作流程的情况下构建忠实的实现。 RecreationWorld 在 Ubuntu、macOS、Windows、Android 和 Web 上提供可重现的环境,以及带有本机 GUI 控制和编码工具的统一工具。运行参考充当隐藏行为测试的预言机,提供基于执行的奖励。我们通过高质量的开源应用程序扩展轨迹生成。在这些轨迹上训练的模型在五个分布外编码和混合计算机使用基准上得到了改进,并且更频繁地验证其渲染的输出,提供了超越娱乐的转移证据。对于保留评估,我们引入了 RecreationBench,其中包含跨领域和平台的 250 个不同任务。基于参考的程序化和视觉断言涵盖了多个交互深度的动作条件结果;在套件被冻结以进行自动评分之前,每个项目都经过参考和人工审核员的验证。 GPT-6 Astra 总体领先率为 58.1%,但仅通过了 2.8% 任务的所有程序测试。代理比交互和计算输出更可靠地再现静态接口结构,而生成的应用程序仍然比其引用更小、更整体。我们发布了基准测试、环境和测试套件。