论文

从智能体失败路径到量化残余风险:韧性智能体AI的组合框架

From Agent Failure Paths to Quantified Residual Risk: A Compositional Framework for Resilient Agentic AI

模型评测评测方法与指标

摘要

智能体AI跨越信任边界的速度快于当前风险模型的表达能力。现有方法提供两种片面视角之一:要么描述失败机制却不产出可迁移的残余风险估计,要么给出风险估计却把内部失败路径当黑盒。我们把两种视角耦合:提出CPSAINT——物理状态、传感器、数据、计算、执行器、环境与时间七个层次的完整性分解——配以FRIESA-K,一个把每条失败路径映射为量化风险实例的残余风险泛函。FRIESA-K把抗性项K落在受控吸收马尔可夫模型上,使控制有效性从状态动力学推导而来,而非作为非正式分数指派。由此形成一条从机制到量级的简洁管线,服务韧性智能体与具身AI。治理可观测性经单独的加性惩罚报告,而非在抗性泛函中插入新变量。我们形式化把有效失败路径与良定义风险实例相连的结构可组合性,并在两个对比场景上演示框架:硬实时的仓储机器人与经治理 instrument 的金融服务智能体。跨两个案例,同一层语法、变量语义与动态抗性构造保持不变。由此得到一个支持跨域推理、显式假设与可组合信任之量化形式化的紧凑内核。

从智能体失败路径到量化残余风险:韧性智能体AI的组合框架:论文配图
图 1:比较 CPSAINT 七层语法,用于跨仓库机器人和银行代理工作流程的结构分解。发起妥协始于编排、数据或工具逻辑附近,跨越明确的故障边界,并向物理驱动或治理敏感的工作流降级传播。层编号对应于第四节中给出的正式符号集。