论文
智能体行为契约:面向可靠自主 AI 智能体的形式化规约与运行时强制
Agent Behavioral Contracts: Formal Specification and Runtime Enforcement for Reliable Autonomous AI Agents
摘要
传统软件依赖契约——API、类型系统、断言——来规定并强制正确行为。相比之下,AI 智能体运行于提示与自然语言指令之上,没有正式的行为规范。这一缺口是 Agentic AI 部署中漂移、治理失败与项目频繁失败的根源。我们提出智能体行为契约(ABC),一个把契约式设计原则带入自主 AI 智能体的形式化框架。ABC 契约 C = (P, I, G, R) 将前置条件、不变量、治理策略与恢复机制规定为一等公民的、运行时可强制的组件。我们定义 (p, delta, k)-满足——一个考虑 LLM 非确定性与恢复的契约遵从概率概念——并证明漂移界定理:恢复率 gamma > alpha(自然漂移率)的契约在期望上将行为漂移限制在 D* = alpha/gamma,且在随机设定下具有高斯集中性。我们确立了多智能体链中安全契约组合的充分条件,并推导了概率退化界。我们在 AgentAssert(一个运行时强制库)中实现 ABC,并在 AgentContract-Bench(一个覆盖 6 家厂商 7 个模型、200 个场景的基准)上评估。1,980 个会话的结果显示,带契约的智能体每会话检测到 5.2-6.8 个基线完全漏掉的软违规(p < 0.0001,Cohen's d = 6.7-33.8),硬约束遵从率达 88-100%,长会话中将行为漂移限制在 D* < 0.27,前沿模型恢复率 100%、全部模型 17-100%,每次动作开销低于 10 毫秒。
