论文

长视野工具使用AI 智能体中自生成子目标的运行时授权

Runtime Authorization of Self-Generated Subgoals in Long-Horizon Tool-Using AI Agents

智能体系统Agent 动作执行与治理

摘要

使用 AI 智能体的长远工具创建子目标、重新计划、委派工作并组合同级结果。每个工具的权限检查无法确定变化的目标图是否保留在主体批准的任务中。我们通过一个主体和一个授权根来解决有限结构化域中的这一授权差距。每个提议的目标图突变都带有一个版本绑定的见证,它的连续跟踪、资源、义务、不变量和结束条件细化了活跃的根合约;每个受保护的效果都会在原子提交边界重新检查。自由格式的目标文本不提供任何权威。我们证明了在显式中介、抽象、新鲜度和原子性假设下的跟踪策略和建模禁止状态保存,加上条件根成功保存、无记忆允许列表的分离结果、精确的有限域可判定性和健全抽象细化下的通用安全单调性。可执行模型探索 340 种状态和 419 种转换。在涵盖 25 个结构模式的 96 个匹配案例中,完整的机制在 48 个漂移案例中提交了零禁止状态,并完成了所有 48 个良性对应项。两个公共上游运行时路径在 32 个案例中执行 258 个本机调度,每个案例级别的决策和接收链都匹配。一项冷冻宿主局部研究涵盖了 129 个合成的单因素细胞,所有细胞都符合固定的决定和原因。历史感知延续比较器会阻止每个建模的不良跟踪前缀,但会提交 11 个案例中的所有操作,这些案例的违规行为在于类型化资源、新鲜度或跟踪投影之外的显式连接证据。在注册的结构化域内,运行时授权保留了有用的重新规划,同时防止自我生成的子目标成为新权限的来源。