论文
从计算机使用痕迹中归纳任务模型
Inducing Task Models from Computer-Use Traces
摘要
自然的计算机使用痕迹、被动记录的屏幕截图以及鼠标或键盘操作,是导出日常工作如何完成的符号、可审计和可重用模型的宝贵资源。当计算机使用的代理进入实际工作时,此类模型很重要,代理需要了解任务的实际执行方式,而组织需要审核和重用这些知识。然而,引入这样的任务模型具有挑战性,因为活动仅作为底层事件被观察到,而现实世界的工作是具有交错目标的多线程。现有方法假设给定的任务或单个工作流程,并生成步骤级摘要而不是结构化任务模型。我们引入了任务模型归纳(TMI),它(i)在不受约束的跟踪中发现潜在任务,解开并发活动,并且(ii)对于每个潜在任务,归纳出一个任务模型,将递归目标分解的分层目标模型与组织执行的控制流的过程模型配对。本质上,在受控的人类和代理轨迹上,TMI 恢复交错任务,与 真值 分组的一致性为 0.974,并重建 74.9% 的观察到的执行步骤,远远超过最强的工作流归纳基线。从外部来看,源自 TMI 任务模型的技能将保留任务的准确性比最强基线提高了 30.0%。