论文

你还是我授权的那个智能体吗?演化智能体在固定上限下的已赢得授权

Are You Still the Agent I Authorized? Earned Authority under a Fixed Ceiling for Evolving Agents

智能体系统Agent 动作执行与治理Agent Skills

摘要

长寿命的AI智能体越来越多地在部署后发生演化:保留经验、获取技能与工具、修订工作流、委派工作并在任务阶段之间移动。这提升了适应能力,却也带来一个独特的授权问题。具备工具的智能体可以把模型错误与提示注入转化为有实际后果的外部行动;当演化发生在授权仍然有效的期间,行使该权限的主体或其行动所处的上下文可能已不再与用户当初评估的对象一致。演化既会改变旧授权下可达的效果,也会改变任务所需的权限,后者可能升高、降低或变得不可比。现有工具策略可以约束行动,却不能决定一项授权在此变化之后何时仍然有效。我们形式化了授权连续性问题:一项既有授权何时保持有效、活跃权限可以怎样变化、以及哪条边界绝不可移动。我们的状态约束模型在授权时固定一个转移包络和一个不可变的效果上限。包络决定授权能否在一次变异后存续;在上限之下,权限可以自由收缩,只有在满足特定证据条件时才能扩张。我们区分请求效果与实现效果,并证明在完全中介、健全的效果抽象、衰减式委托与监视器完整性等条件下,变异无法把受保护效果放大到超出用户颁发的上限。智能体产生的证据可以在上限之下分配权限,但不能抬高上限。最后,我们把六类变异映射到各自的授权后果。