论文

ShopGym:面向电商网页智能体的真实仿真与可扩展基准测试集成框架

ShopGym: An Integrated Framework for Realistic Simulation and Scalable Benchmarking of E-Commerce Web Agents

智能体系统Agent任务评测

摘要

开发与评估电商网页智能体,需要既能保留有意义的任务结构、又能支持可控、可复现、可扩展的科学比较的环境。现有方法迫使人取舍:真实线上店铺具备真实性,但非平稳、难以检查且不可复现;手工搭建的沙箱基准提供可控性,却只覆盖狭窄的布局、商品目录、政策与交互模式。我们认为核心瓶颈是方法层面的:本领域缺乏一种可扩展的方式来构建同时具备真实性、多样性、可控性、可检查性与可复现性的评估设置。我们提出ShopGym,一个面向电商网页智能体真实仿真与可扩展基准测试的集成框架。ShopGym是用于构建电商模拟环境与有据可依的基准任务的框架。其仿真层ShopArena通过匿名化的店铺规格与分阶段、经验证的生成流程,将真实的种子店铺转换为自包含的沙箱商店。在这些模拟店铺之上,ShopGuru合成横跨七个技能类别的基准任务,将每个任务扎根于商店的商品目录、导航结构、政策与交互可供性。ShopArena与ShopGuru共同产出自包含、可重置、可检查且稳定的评估工件,保留与购物任务相关的结构属性和智能体评估信号。我们通过基于图的结构分析与基于智能体的行为评估验证该框架,覆盖六个沙箱商店的224个生成任务,其中三个商店由合成数据构建、三个由真实数据构建。结果表明,合成商店保留了真实店铺的关键结构属性,且智能体在合成商店上的表现与在真实店铺上的表现正相关。

ShopGym:面向电商网页智能体的真实仿真与可扩展基准测试集成框架:论文配图
图 1:ShopGym 由两个组件组成。 ShopArena 提供了一个填充了合成沙箱商店的模拟环境,以及一个可扩展的管道,该管道通过规范综合然后生成数据和代码,从一个或多个实时种子店面生成新的沙箱商店。然后,ShopGuru 使用生成的目录、集合、页面和商店统计数据来生成涵盖原始技能的短期任务和结合这些技能的长期购物旅程。