论文

智能体行为挖掘:业务流程中的生成式AI智能体治理

Agent Behavior Mining: Generative AI Agent Governance in Business Processes

AI 基础设施可观测性

摘要

随着组织越来越多地部署生成式人工智能代理来自动化业务流程,他们面临着治理困境:尽管这些代理可以提高运营灵活性,但它们的不确定性对业务流程管理寻求实施的控制和标准化提出了挑战。本文通过引入\emph{智能体行为挖掘}来解决这一\emph{隐形自主风险},这是一种治理功能,能够应用流程挖掘技术来使生成式人工智能智能体决策可观察和可追踪。我们 (1) 通过事件数据模型提高对生成式 AI 代理行为的理解,该模型将精细的代理活动(包括推理跟踪、工具使用和词元成本)转换为标准化的流程日志; (2) 在多代理订单到现金实施中实例化数据模型,演示流程经理如何利用代理日志来检测策略偏差并量化操作可变性; (3) 在对 18 名行业从业者进行的探索性研究中评估该方法的实用性。结果表明,从业者将行为透明度视为信任的先决条件,并将检查代理推理的能力视为下一代人工智能驱动的业务流程的重要治理要求。

智能体行为挖掘:业务流程中的生成式AI智能体治理:论文配图
图 2:代理事件概念层次结构