论文
Tactile:给计算机使用智能体手和脚
Tactile: Giving Computer-Using Agents Hands and Feet
摘要
计算机使用智能体正成为有能力的软件操作员,但其与桌面应用的接口仍常是脆弱的运动层:看截图、预测坐标、点击、并指望可见状态如预期改变。这把目标落地、动作执行与结果验证坍缩为单个含糊操作。我们提出Tactile:一个开源工具层——给智能体更可靠的桌面使用“手和脚”。Tactile把异构UI证据——操作系统无障碍语义、OCR落地文本与视觉回退区域——转为动作落地的界面状态:带来源标签、角色或文本、状态、几何、可执行可供性与验证线索的紧凑目标候选。智能体经观察—落地—行动—验证循环操作:优先原生语义动作,可见文本是最佳证据时回退OCR落地坐标,并为重放与失败归因保留完整出处。在macOSWorld式任务上:加入Tactile把Codex Success@100总体从41.1%提升到50.0%、无障碍适配任务上从45.2%到55.3%;96任务跨智能体子集显示Codex、Claude Code、OpenCode与Goose的一致增益。结果表明可靠的计算机使用不仅需要更强模型,还需要把软件动作暴露为语义、可验证、可审计对象(而非匿名屏幕坐标)的可复用执行基底。
