论文

能力与权限分离:面向Agentic AI自主性等级的治理框架

Separating Capability from Permission: A Governance Framework for Agentic AI Autonomy Levels

智能体系统Agent 动作执行与治理

摘要

随着AI系统日益表现出智能体行为,关于自主性的讨论常常把系统在技术上能做什么与它在实践中应被允许做什么混为一谈。本文提出一个治理框架,明确区分允许自主等级(AAL)与自主能力等级(ACL):前者定义AI智能体在综合考虑风险、监督与问责后被授权行使的自主程度,后者刻画智能体固有的技术能力。我们给出一组结构化的自主等级,涵盖反应式执行、决策支持、受监督行动、目标导向自主与受托运营权限,并描述随着自主性提升,控制、可逆性与问责如何变化。为使该框架可操作,我们提出一个用于分配允许自主的风险感知决策流程,分析风险与问责如何随自主等级演化,并通过一个已部署的企业数据工程智能体展示其应用,说明一个被评定为高能力等级的系统可以基于风险、可逆性与组织准备度被有意约束到较低的允许自主。通过把授权与能力区分开,本工作为Agentic AI系统的设计、部署与治理提供了实用指导。