论文

面向企业AI的安全且符合策略的多智能体编排

Safe and Policy-Compliant Multi-Agent Orchestration for Enterprise AI

智能体系统Agent 动作执行与治理Agent Harness

摘要

企业AI系统日益在关键任务工作流中部署多个智能体,这些工作流必须满足硬性策略约束、有界的风险暴露以及全面的可审计性(SOX、HIPAA、GDPR)。现有协调方法——合作式多智能体强化学习(MARL)、共识协议与集中式规划器——在优化期望回报的同时对约束采取隐式处理。本文提出CAMCO(Constraint-Aware Multi-Agent Cognitive Orchestration,约束感知多智能体认知编排),一个将多智能体决策建模为约束优化问题的运行时协调层。CAMCO集成了三种机制:(i)通过凸投影强制执行策略可行动作的约束投影引擎;(ii)自适应的风险加权拉格朗日效用塑形;(iii)具有可证明有界收敛性的迭代协商协议。与训练时约束强化学习不同,CAMCO作为部署时中间件运行,兼容任意智能体架构,其策略谓词设计为可与OPA等生产引擎直接集成。在三个企业场景中的评估——包括与受约束拉格朗日MARL基线的对比——表明其实现零策略违规、风险暴露低于阈值(平均比率0.71)、92-97%的效用保留以及平均2.4次迭代即收敛。