数字学徒：面向人类指导的智能体AI开发框架

智能体AI部署面临着反复出现的设计紧张：严重的人工监督限制了规模，而广泛的自主权超出了责任范围。这两种态度都没有提供负责任的委派所需的治理基础设施。我们提出了“数字学徒”，这是一个可扩展、安全的人工智能机构框架，其中自主权是赢得的，而不是假设的。数字学徒是一个发展型学习者，它将指导人类的默认方法内化，只有当经验证据证明其合理性时，才会通过每项技能的自主层级毕业。其结果是代理随着时间的推移变得真正有用​​，同时保持与特定人类标准的一致。三个架构组件使这成为可能。 (1) 方法论捕获，将指导专业人员的默契方法提炼为结构化资产。 (2) 授权，通过明确的人类批准来提升自主权。 (3)持续对齐，在运行时校正漂移并将每次校正转换为拥有的偏好数据。我们将该框架实例化为推理时间控制平面。我们对质量框架进行数学建模，并讨论旨在提高质量的政策和技术。我们将该框架应用于开放的专业语料库，并展示了如何在运行时捕获数据漂移并应用不同的技术来恢复流量变化下降低的质量维度。其含义超出了任何单一应用程序。我们相信，这三个支柱作为一个系统缝合在一起，形成了一条更安全、更可行的代理系统路径，可以在不牺牲信任的情况下进行扩展。