论文
从智能体失败路径到量化残余风险:韧性智能体AI的组合框架
From Agent Failure Paths to Quantified Residual Risk: A Compositional Framework for Resilient Agentic AI
摘要
智能体AI跨越信任边界的速度快于当前风险模型的表达能力。现有方法提供两种片面视角之一:要么描述失败机制却不产出可迁移的残余风险估计,要么给出风险估计却把内部失败路径当黑盒。我们把两种视角耦合:提出CPSAINT——物理状态、传感器、数据、计算、执行器、环境与时间七个层次的完整性分解——配以FRIESA-K,一个把每条失败路径映射为量化风险实例的残余风险泛函。FRIESA-K把抗性项K落在受控吸收马尔可夫模型上,使控制有效性从状态动力学推导而来,而非作为非正式分数指派。由此形成一条从机制到量级的简洁管线,服务韧性智能体与具身AI。治理可观测性经单独的加性惩罚报告,而非在抗性泛函中插入新变量。我们形式化把有效失败路径与良定义风险实例相连的结构可组合性,并在两个对比场景上演示框架:硬实时的仓储机器人与经治理 instrument 的金融服务智能体。跨两个案例,同一层语法、变量语义与动态抗性构造保持不变。由此得到一个支持跨域推理、显式假设与可组合信任之量化形式化的紧凑内核。
