TRACE：基于计量的工程框架，用于关键操作领域中值得信赖的代理人工智能系统

我们推出 TRACE，这是一个跨域工程框架，用于在关键操作领域提供值得信赖的代理 AI。 TRACE 将四层参考架构与显式经典 ML 与 LLM 验证器分割 (L2a/L2b)、状态编排和升级策略 (L3) 以及有界人工监督 (L4) 相结合；映射到 GUM/VIM/ISO 17025 的计量基础信任度量套件；以及通过计算简约率 (CPR) 量化的模型简约原则。三个实例——临床决策支持、工业多领域操作和司法人工智能助手——在主要不同的治理环境中转移相同的架构和指标。 L2a/L2b 分离使得 大语言模型 的使用成为一种深思熟虑的设计决策，而不是架构默认，并通过 CPR 量化简约性。 TRACE 引入 CPR 作为值得信赖的人工智能工程的一流设计原则。