论文
面向信任保持Agentic AI执行的策略代数
A Policy Algebra for Trust-Preserving Agentic AI Execution
摘要
基于大语言模型的agentic框架主要优化能力:智能体能否推理、检索信息、调用工具、委派工作并完成目标。企业级执行需要更强的性质。若一个成功结果是通过未授权的数据访问、被扩大的委派权限、未经批准的副作用、不可恢复的预算消耗或不完整的证据产生的,那么它并不可靠。本文把可靠能力定义为一个路径性质:只有当智能体通过在身份、画像、工具、数据、记忆、预算、产物、审批和审计约束下保持可准入的动作事件来完成任务时,它才是可靠有能力的。我们提出一个策略代数,定义智能体能力可在其中行使的可靠性包络。安全画像与运行时义务通过连接(join)、交集、预算收窄、审批继承与证据累积进行组合;所得组合既是信任保持的,又是满足全部治理输入的最少限制状态。该代数还把限制传播到多智能体调用中,并引入成本感知的产物物化,在预算暴露增长时把开放式执行引向可恢复的结果。评估被解释为可靠性-能力权衡而非能力基准:策略代数运行时对94.8%的违反策略事件进行了干预,同时保持86.9%的任务完成率,消除了观察到的画像单调性与零产物耗尽违规,并把审计完整性提升至98.6%。该方法为研究者和实践者提供形式化正确性条件、可执行的决策语义与轨迹证据,用于构建不仅有能力、而且可靠有能力的智能体。