论文

为代理人工智能设计可靠的提交门:共模数据故障下的成本感知验证组合

Engineering Reliable Commit Gates for Agentic AI: Cost-Aware Verification Portfolios under Common-Mode Data Failures

智能体系统Agent 动作执行与治理

摘要

代理系统提交状态更改操作,但其他验证者可以继承相同的上游故障。我们提出了 VP-CONTROL,一种运行时保证设计和成本感知提交门的确定性基准。其 48 个任务模板可生成跨越 6 个故障状态的 2,880 个场景。固定调用 2 x 2 实验将验证者模型多样性与证据源多样性分开。对于两个当地演员家庭的冻结提案,对共享证据的跨模型投票批准了 62.9% 的不安全提案,而独立来源的批准率为 22.9%。源效应为 40.9 个百分点,而模型多样性为 11.3 个百分点。项目组合控制器仅使用部署可观察的元数据来选择验证计划。以每任务标称 5% 的目标进行近似集群调整校准,可在锁定测试中产生 1.9% 的不安全执行和 38.2% 的自动化安全覆盖率。匹配预算投资组合还改进了固定验证政策。转移仍然是有条件的:看不见的故障族会产生 16-26% 的风险,并且 FinQA 检查无法通过测试的小型验证器重现源效应。预先注册的实时 HTTP/SQLite 研究测试并发写入和丢失响应。赛后检查比赛击败了仅限验证者的大门;事务性部分防护仅防止涵盖的故障,而完整的原子防护在 216 个事件中不会记录任何不安全影响。幂等请求标识符可防止丢失响应后出现重复效果。结果激发了明确的证据谱系、成本意识选择和提交时间执行,同时暴露了近似校准和本地工具泛化的局限性。