论文
SimGym:基于真实流量VLM智能体的电商A/B测试模拟框架
SimGym: A Framework for A/B Test Simulation in E-Commerce with Traffic-Grounded VLM Agents
摘要
A/B测试仍然是评估电商店面改动的黄金标准,但它会分流真实流量、需要数周才能达到统计显著性,并有损害用户体验的风险。我们提出SimGym,一个利用在真实浏览器中运行的视觉语言模型(VLM)智能体来模拟电商店面A/B测试的框架。该框架包含三个关键组件:(a) 基于真实流量的画像生成流水线,从生产环境点击流数据中提取每家店铺的买家原型与意图;(b) 真实浏览器智能体架构,将对视觉与浏览器结构化观测的多模态感知与情景记忆及防护栏机制相结合,以在对照组与处理组店面之间执行连贯的购物会话;(c) 评估协议,将模拟结果偏移与真实买家行为中观测到的偏移进行比较。我们在来自某大型电商平台、跨越多样店面与商品类别的视觉驱动UI主题变更A/B测试上验证SimGym。实证结果表明,SimGym智能体与观测到的结果偏移高度一致,在真实买家流量中跨界面变体观测到的加购偏移上达到77%的方向一致性。它将实验周期从数周缩短至一小时以内,使快速实验成为可能,而无需让真实买家接触候选变体。
