论文
Traccia:基于OpenTelemetry的AI系统治理平台
Traccia: An OpenTelemetry-Based Governance Platform for AI Systems
摘要
大语言模型(LLM)与AI驱动的自主智能体的快速发展已从根本上改变既有软件治理形态。尽管欧盟AI法案等国际框架要求严格的透明与问责标准,理论与实践之间存在相当差距。本研究讨论当前用于LLM评估、机器学习工作流与应用性能监测的平台之固有缺陷。已表明:当前割裂的解决方案无法保护无界状态空间的智能体架构免受对齐漂移、SaaS安全关切与影子AI系统未授权部署等严重威胁。此外我们提出解决方案——Traccia:构建于OpenTelemetry基础设施平台之上的连贯多层级AI治理栈。Traccia通过把遥测数据、被动语义护栏评估与执行世系加入哈希追踪账本,解决AI对齐的最后一公里。Traccia通过附加防篡改指纹与SHA-256内容哈希自动创建合规证据包——映射到欧盟AI法案第12、14、19、26(6)与50条的要求,且不侵犯任何数据隐私。经方法化的评估:为全企业范围的自主AI系统管理创建了坚实的机器可读基础。
