论文
ShopGym:面向电商网页智能体的真实仿真与可扩展基准测试集成框架
ShopGym: An Integrated Framework for Realistic Simulation and Scalable Benchmarking of E-Commerce Web Agents
摘要
开发与评估电商网页智能体,需要既能保留有意义的任务结构、又能支持可控、可复现、可扩展的科学比较的环境。现有方法迫使人取舍:真实线上店铺具备真实性,但非平稳、难以检查且不可复现;手工搭建的沙箱基准提供可控性,却只覆盖狭窄的布局、商品目录、政策与交互模式。我们认为核心瓶颈是方法层面的:本领域缺乏一种可扩展的方式来构建同时具备真实性、多样性、可控性、可检查性与可复现性的评估设置。我们提出ShopGym,一个面向电商网页智能体真实仿真与可扩展基准测试的集成框架。ShopGym是用于构建电商模拟环境与有据可依的基准任务的框架。其仿真层ShopArena通过匿名化的店铺规格与分阶段、经验证的生成流程,将真实的种子店铺转换为自包含的沙箱商店。在这些模拟店铺之上,ShopGuru合成横跨七个技能类别的基准任务,将每个任务扎根于商店的商品目录、导航结构、政策与交互可供性。ShopArena与ShopGuru共同产出自包含、可重置、可检查且稳定的评估工件,保留与购物任务相关的结构属性和智能体评估信号。我们通过基于图的结构分析与基于智能体的行为评估验证该框架,覆盖六个沙箱商店的224个生成任务,其中三个商店由合成数据构建、三个由真实数据构建。结果表明,合成商店保留了真实店铺的关键结构属性,且智能体在合成商店上的表现与在真实店铺上的表现正相关。
