面向智能体AI系统运行时治理的义务论策略

由大语言模型（LLM）驱动的自主智能体AI系统引入新的安全、隐私与合规挑战：一个能调用工具、操纵数据、安装软件并跨组织边界与同伴智能体协作的智能体——不仅要受认证与访问控制约束——还要受企业治理完整结构的约束。这包括规定智能体被允许与禁止做什么、某些动作后必须做什么（如通知CISO）、常设义务在什么条件下可被豁免——以及策略冲突时哪些规则优先。该治理问题超出当前策略引擎的供给。XACML、Rego与Cedar等系统只处理该治理结构的允许/禁止子集。它们不提供义务生命周期管理、元策略冲突消解、在特定情形下豁免义务的特许——以及对医疗、网络安全或数据隐私等应用常见的域类层级的本体推理。我们提出AgenticRei——实现义务、特许、策略冲突消解与策略推理等关键治理要求——以及基本允许/禁止约束。我们使用构建于Rei框架上的义务论策略语言——以OWL（网络本体语言）表达——由完全在LLM之外的高性能逻辑引擎运行时评估。同一管线既治理智能体的工具调用——也治理智能体间消息。我们以示例表明义务论策略捕捉了当前生产引擎大多无法表达的安全与隐私治理约束。我们的方法与A2AS等行业标准框架自然组合。