论文

面向机构AI的受治理推理

Governed Reasoning for Institutional AI

智能体系统Agent 动作执行与治理

摘要

机构决策——监管合规、临床分诊、预授权申诉——需要一种不同于通用智能体所提供的AI架构。智能体框架以对话方式推断权限、从日志中事后重构问责,并产生静默错误:即没有任何人工审查信号就执行的错误判定。我们提出Cognitive Core:一个受治理的决策底座,由九个带类型的认知原语(retrieve、classify、investigate、verify、challenge、reflect、deliberate、govern、generate)构成,包含一个人工审查是执行条件而非事后检查的四层治理模型、一个计算内生的防篡改SHA-256哈希链审计账本,以及一个同时支持声明式与自主推理式认知序列的按需驱动委托架构。我们在一个包含11个案例的均衡预授权申诉评估集上对三个系统进行基准测试。Cognitive Core达到91%的准确率,对比之下ReAct为55%、Plan-and-Solve为45%。治理结果更为重要:CC产生了零静默错误,而两个基线各产生5-6个。我们提出可治理性(governability)——即系统在多大程度上可靠地知道何时不应自主行动——作为机构AI在准确率之外的一个主要评估轴。基线以提示词方式实现,代表了有治理框架之外的现实部署替代方案。配置驱动的领域模型意味着部署一个新的机构决策领域只需要YAML配置,而不需要工程资源投入。