论文

面向生产AI智能体运行时治理的五平面参考架构

A Five-Plane Reference Architecture for Runtime Governance of Production AI Agents

智能体系统Agent 动作执行与治理Agent Harness

摘要

企业安全旨在管理数据边界:受保护的表面是静态和传输中的数据,而控制(访问控制、数据丢失预防、周边检查)则管理该边界的交叉点。生产型人工智能代理消除了这一假设。代理代表企业读取上下文、调用工具、调用连接器并修改记录系统,因此风险会在工作流程内移动,进入一系列单独允许的操作,这些操作可能会改变未经授权的业务流程。现有的策略引擎不扩展到这种制度:它们根据原子主体评估请求时决策,其中代理系统需要针对复合主体进行状态评估,复合主体的权限通过委托链减弱。我们提出了一个用于生产代理运行时治理的参考架构,该架构由四个可组合原语构建:五平面分解(一个裁决意图的推理平面,以及四个实现决策的执行平面——网络、身份、端点、数据)、随处停止中介、具有能力衰减的复合主体以​​及作为结构化证据基础的审计。我们定义了六个中断原语的分类法,概括了允许和拒绝、陈述和争论四个正确性不变量,并演示了跨五个具体工作流程的七个生产代理威胁的排除。策略引擎核心的参考实现提供了测量的证据:每次试验都保持衰减正确性和证据可重构性,裁决在个位数微秒内运行,并且审计基底的篡改证据的行为与设计完全一致。我们对范围很明确:架构管理委托操作,而不是模型行为,并且下一步将根据实时代理基准进行全系统评估。