论文

CI4A:赋能网页自动化的面向智能体语义组件接口

CI4A: Semantic Component Interfaces for Agents Empowering Web Automation

智能体系统Agent 环境交互

摘要

尽管大语言模型在高层语义规划上表现出色,它们在处理细粒度、低层的网页组件操作上仍然受限。为解决这一局限,大量研究聚焦于通过强化学习等技术增强模型接地能力。然而,我们不强迫智能体适应以人为中心的界面,而是提出构建专为智能体优化的交互界面。本文提出面向智能体的组件接口(CI4A),一种语义封装机制,把 UI 组件的复杂交互逻辑抽象为智能体可访问的统一工具原语。我们在工业级前端框架 Ant Design 中实现了 CI4A,覆盖 23 个类别的常用 UI 组件。此外,我们开发了一个混合智能体,其动作空间随页面状态动态更新,可灵活调用可用的 CI4A 工具。利用集成 CI4A 的 Ant Design,我们重构并升级 WebArena 基准来评估现有 SoTA 方法。实验结果表明,基于 CI4A 的智能体显著优于现有方法,取得 86.3% 的 SoTA 任务成功率,并伴随执行效率的大幅提升。

CI4A:赋能网页自动化的面向智能体语义组件接口
图1:脆弱的原子操作与健壮的 CI4A。传统方法在日期选择上纠缠于易出错的多步骤链条;与之相反,CI4A 把复杂逻辑收敛为确定性的单步调用,消除了长序列执行的不确定性。