代理人工智能中的自治和代理：受监管环境的架构策略

在受监管的环境中部署代理人工智能需要对两个设计维度进行原则性推理：代理（系统可以做什么）和自主（在没有人类参与的情况下它可以做什么）。虽然它们经常被独立对待，但它们是耦合的：在较高的自治度下，人为错误纠正的可能性较小，因此可靠的操作需要相应地约束机构；随着行动后果的增加，合规要求通过强制人类参与来强化这一点。然而，还没有既定的方法来共同解决这些问题，使得从业者没有推理监督、行动后果和错误纠正的原则基础。这项工作引入了一个二维设计空间，其中两个维度都被组织成五个操作级别，使耦合变得明确且可导航。自主范围从人类命令操作（L1）到完全自主监控（L5）；代理范围从对提供的上下文进行推理 (L1) 到对权威记录的提交写入 (L5)。在此基础上，我们提出了六种架构策略——检查点、升级、多代理委托、工具配置、工具防护和写入暂存——用于调整部署在其中的位置。这些策略基于公共部门背景下的两个工作示例，说明了它们如何在现实的合规约束下应用。我们进一步研究了五个部署参数——模型能力、代理架构、工具保真度、工作流程瓶颈和评估——这些参数决定了在独立于代理和自治的任何配置下可实现的目标。设计空间、策略和部署参数共同为有原则的、具有合规意识的代理人工智能设计提供了一个共享词汇，其中责任、可审计性和可逆性是明确的设计考虑因素，而不是部署后必须进行改造的属性。