论文
组织控制层：LLM代理系统执行边界的治理基础设施
Organizational Control Layer: Governance Infrastructure at the Execution Boundary of LLM Agent Systems
摘要
基于 LLM 的代理越来越多地部署在工作流程中，其中生成的输出可能会触发状态更改操作，例如报价、退款、付款或工具调用。这就产生了执行边界问题：平台必须在执行操作之前决定代理提议的操作是否获得授权。我们引入了组织控制层（OCL），这是一个与模型无关的治理层，它将提案生成与面向环境的执行分开。 OCL 拦截生成的操作，根据角色、策略和经济约束对其进行检查，并在不修改底层 LLM 生成器的情况下批准、修改、阻止或升级它们。我们在改编自 AgenticPay 的对抗性买方-卖方谈判环境中评估 OCL。在多个前沿 LLM 后端中，OCL 将观察到的不安全执行从 88% 减少到 0%，同时将有效成功率从 12% 增加到 96%。消融表明，这种收益来自于将执行前执行与结构化恢复相结合，而不是仅仅来自提示或阻止。这些结果表明，部署级 LLM 代理系统需要在语言生成和可执行操作之间的边界进行显式治理。