不可逆性预算：智能体操作系统的集群级风险核算与准入控制

现在，LLM 代理人队伍将无法完全消除的影响外部化：他们转移资金、部署代码、删除数据和泄露信息。当前的控制措施一次检查一个效果，因此一组单独授权的代理可以在共享触发器下透支其委托人的风险，同时每个本地门保持正确。我们提出了不可逆性预算，即可信运行时为跨代理、工作流和租户的每个主体维护的剩余风险价值的累积账户。将不可逆性视为一流资源，运行时会对其低于代理的剩余损失收取费用，并在总量透支预算时否认边际效应。确定正确的价格很困难，因为效果是异质的、对抗性的、相互关联的。我们进行了一项对照研究，其中每效门允许车队级透支高达租户风险限额的 48 倍，而预算将每次正确收费的运行控制在该限额内。保守的、具有依赖意识的定价仍然是可部署设计的核心开放问题。