论文

HALO:通过局部化义务实现异构准入以保障智能体安全执行

HALO: Heterogeneous Admission through Localized Obligations for Safe Agentic Execution

智能体系统Agent 动作执行与治理

摘要

近期的智能体AI系统可能返回包含通知、请求、移交与动作的异构响应。在对外使用之前条件可能发生变化,因此同一响应中的各组件未必始终同时保持被支持。拒绝整个响应会丢弃有用组件,而独立检查各组件又可能使依赖项失去其前提。我们提出带局部化义务的异构准入(Heterogeneous Admission with Localized Obligations,HALO),这是一种运行时协议:保留其声明前提也仍被支持的受支持组件,在派发前重新检查每个具体动作,且被阻止的动作只能由全新候选替换。HALO匹配了全部96项准入预期,并通过全部20项协议测试。在结构化响应重放中,它保留了248/248个受支持组件,其中包括128/128个未受无关变化影响的组件,而整响应策略仅保留0/248。在十次PX4/Gazebo冷启动会话中,HALO阻止了所有受测的过期路由,未观察到任何匹配的过期设定点,并完成了全部全新恢复。

HALO:通过局部化义务实现异构准入以保障智能体安全执行:论文配图
图 1:HALO 的一个结构化响应的运行时流程。 HALO 在声明的先决条件下保留受支持的组件,将符合条件的操作发送到最终调度门,并允许仅由新的候选操作替换被阻止的操作。