论文
AI Trust OS——面向企业环境中自主AI可观测性与零信任合规的持续治理框架
AI Trust OS -- A Continuous Governance Framework for Autonomous AI Observability and Zero-Trust Compliance in Enterprise Environments
摘要
大语言模型、检索增强生成流水线与多智能体AI工作流的加速采用造成了一场结构性治理危机。组织无法治理其看不见的东西,而面向确定性web应用构建的现有合规方法,缺乏发现或持续验证那些在缺乏正式监督的情况下散布于各工程团队的AI系统的机制。其结果是,监管者对AI治理成熟度证明的要求与组织所能展示的内容之间,信任鸿沟不断扩大。本文提出AI Trust OS,一个面向持续、自主AI可观测性与零信任合规的治理架构。AI Trust OS将合规重新构想为一个始终在线、由遥测驱动的运行层:AI系统通过可观测性信号被发现,控制断言由自动化探针收集,信任工件被持续合成。该框架建立在四项原则之上:主动发现、遥测证据优先于人工证明、持续态势优先于时点审计、架构背书的证明优先于政策文档式信任。该框架通过零信任遥测边界运行,其中临时只读探针验证结构性元数据,而不摄取源代码或载荷级PII(个人身份信息)。一个AI可观测性提取智能体扫描LangSmith与Datadog的LLM遥测,自动登记未备案的AI系统,使治理从组织自报转向实证的机器观测。该论文在ISO 42001、欧盟AI法案、SOC 2、GDPR与HIPAA上进行评估,论证遥测优先的AI治理代表了企业信任产生与证明方式的一次范畴性架构转变。
