论文

Tactile:给计算机使用智能体手和脚

Tactile: Giving Computer-Using Agents Hands and Feet

智能体系统Agent 环境交互

摘要

计算机使用智能体正成为有能力的软件操作员,但其与桌面应用的接口仍常是脆弱的运动层:看截图、预测坐标、点击、并指望可见状态如预期改变。这把目标落地、动作执行与结果验证坍缩为单个含糊操作。我们提出Tactile:一个开源工具层——给智能体更可靠的桌面使用“手和脚”。Tactile把异构UI证据——操作系统无障碍语义、OCR落地文本与视觉回退区域——转为动作落地的界面状态:带来源标签、角色或文本、状态、几何、可执行可供性与验证线索的紧凑目标候选。智能体经观察—落地—行动—验证循环操作:优先原生语义动作,可见文本是最佳证据时回退OCR落地坐标,并为重放与失败归因保留完整出处。在macOSWorld式任务上:加入Tactile把Codex Success@100总体从41.1%提升到50.0%、无障碍适配任务上从45.2%到55.3%;96任务跨智能体子集显示Codex、Claude Code、OpenCode与Goose的一致增益。结果表明可靠的计算机使用不仅需要更强模型,还需要把软件动作暴露为语义、可验证、可审计对象(而非匿名屏幕坐标)的可复用执行基底。

Tactile:给计算机使用智能体手和脚:论文配图
图 2:动机和概述。屏幕截图优先控制很常见,但经常涉及感知、目标选择、低级运动动作和验证。 Tactile 插入了一个基于动作的操作层:它在可用时读取可访问性语义,在必要时使用基于 OCR 的文本,对语义不透明区域回退到视觉控制,并记录足够的来源以使每个操作都可检查。