论文
利用具体代理:策略约束执行的运行时治理
Harnessing Embodied Agents: Runtime Governance for Policy-Constrained Execution
摘要
具身智能体正在从被动推理系统演变为与工具、机器人和物理环境交互的主动执行器。一旦代理获得执行权限,核心挑战就从如何使其行动转变为如何使其行为在运行时保持可控。现有方法将安全、恢复和决策约束嵌入代理循环内,使得执行控制难以标准化、审核和跨环境适应。我们提出了一个用于策略约束执行的运行时治理框架,将代理认知与执行监督分开。治理被具体化为专用的运行时层,执行策略检查、能力准入、执行监控、回滚和人工覆盖。我们形式化了持久性体现代理、模块化能力包和治理层之间的控制边界,并定义了在受控模拟下评估的策略约束执行管道。经过 1000 多项随机试验,该框架实现了 96.2%+/-2.7% 的未授权操作拦截,将运行时漂移下的不安全持续率从 100% 减少到 22.2%+/-3.1%,并在完全符合策略的情况下实现了 90.7%+/-3.0% 的恢复成功率。与五个基线(包括 AutoRT 式构成过滤和 RoboGuard 式两级护栏)的比较表明,预执行过滤在治理感知方法中同样有效,而只有所提出的框架提供连续运行时检测(RVDR = 61.3% vs. 0%)和结构化恢复(全部 p<0.001)。整个检测范围的灵敏度扫描证实了真正的检测-连续权衡。这项工作认为未来的具体系统应该被设计为可治理的执行。