语义群体保证：非确定性人工智能基础设施的集体认证

随着 大语言模型 (LLM) 代理集成到自主云操作中，分布式系统面临语义可靠性问题：提议者代理可以生成生产突变，例如修改 IAM 策略、打开防火墙安全组或执行数据导出，这些突变在语法上有效且静态授权，但操作上不安全。经典的分布式共识协议复制确定性状态转换，但不评估所提议意图的安全性。为了解决这一差距，我们引入了语义仲裁保证（SQA），这是一种用于管理非确定性代理基础设施的控制平面原语。 SQA 将提案表示为绑定到加密证据链的声明式执行合约，并将其路由到各种只读、沙盒验证器代理面板。 SQA 在风险自适应法定人数谓词下汇总他们的判断，该谓词强制执行模型和原型多样性，根据校准的保证分数调整权重，并尊重特定于原型的否决权。已接受的提案只能通过主权执行门执行。我们在云原生控制平面中实例化 SQA，并形式化非确定性验证器的相关认知故障模型。在 500 个受基础设施启发的突变场景中，报告了保留的安全/不安全试验（不包括模糊场景）的安全结果，SQA 将单代理验证的不安全批准率从 18.5% 减少到 0.3%，同时在所研究的风险范围内增加了 1.45--4.12 秒的中位验证延迟。