论文
SARC-DQ:代理 AI 的运行时数据质量门控:无声证据缺陷、无能盾和仅下游修复
SARC-DQ: Runtime Data-Quality Gating for Agentic AI: Silent Evidence Defects, the Incompetence Shield, and Downstream-Only Remediation
摘要
代理系统会起作用,因此它们检索到的证据中的缺陷会成为具有货币成本的错误行为。最危险的企业缺陷是元数据带来的:陈旧的价格或被取代的记录,有效负载中的格式完美,只有新鲜度、血统或出处才会暴露。这样的缺陷永远不会进入代理的上下文,并且代理不能怀疑它看不到的数据。在定价补货基准上,有能力的代理在大约 60% 的时间内默默地将注入的元数据缺陷转换为代价高昂的操作,并且有可能出现零数据质量标记和行为怀疑标记(AUC <= 0.50)。在推理价格大约 15 倍的四个模型层中,比率保持不变:能力买不来怀疑。具有仅下游修复功能的元数据感知预操作门可以完全恢复其谓词覆盖的信号的损失,而不是完全恢复它们错过的信号的损失。从任务的决策几何中派生的无模型预言机以 MAE 0.015(Pearson r = 0.876,区间覆盖 15/16 个单元)跟踪测量的速率,从而为平梯提供了分析形式。证据完整性是一个不同于模型能力的系统轴;缓解取决于执行位置和谓词覆盖范围。代码、冻结结果和确定性分析管道:https://github.com/besanson/dqSarc