论文
CASE框架:治理企业agentic AI的多学科控制架构
The CASE Framework: A Multi-Disciplinary Control Architecture for Governing Enterprise Agentic AI
摘要
企业部署自主AI智能体的速度快于其治理能力,而通行做法是把单一学科——通常是为确定性自动化构建的DevSecOps——拉伸到所有智能层级上。我们主张agentic AI治理是四个问题而非一个,每个问题都有成熟的治理科学。CASE框架将控制论分配给单个智能体(意图作为设定值、护栏作为反馈、评估作为观测),将复杂自适应系统理论分配给智能体集体(涌现使单智能体保证不可组合),将监管控制论分配给人-智能体团队(必要多样性定律表明仅靠人类监督在结构上会失效),将工程运维分配给机群(把误差预算扩展到决策质量,使自主性成为受控变量)。我们形式化每个层级,推导跨层耦合条件——包括某一层的卓越会令其他层承压的零接触部署悖论——并将二十多项企业控制追溯到其经典构念。三项实证研究验证了该论点:82%有记录的生产智能体失败是多层级轨迹;22个生态工具中没有一个完全覆盖第2层(涌现);35个被评分的公开部署全部落在最低成熟度档。我们将这种错配——风险在涌现层显现,而能力几乎缺位、实践空白——命名为Emergence Gap(涌现鸿沟)。一个配有非补偿性瓶颈加权指数与评估工具的五级成熟度模型,以生产级企业agentic平台为基础,将CASE操作化为科学性而非流程性的成熟度模型。鉴于欧盟AI法案第14条将有效的人类监督定为法律要求,只有满足必要多样性的架构才能让监督真实有效而非流于形式。