技术实践

OpenAI用Agent红队检验训练环境隔离,并将修复验证纳入训练安全准入

应用与实践智能体系统AI 基础设施Agent安全SandboxAI赋能网络安全

概述

OpenAI在强化前沿模型训练和评测环境隔离时,使用包括GPT-6 Astra Cyber及内部前沿模型在内的Agent团队,在专门构建的基础设施隔离副本中并行寻找安全边界缺口。测试目标涵盖访问真实互联网、越过内部权限边界,以及在应相互隔离的Agent之间传递信息;部分测试假设沙箱和内部监控已经失守,单独检验外层网络与云控制。 团队提供源码、配置和漏洞调查线索,并以程序化检查限制实验范围。Agent发现后,自动流水线先分诊去重,安全与基础设施团队再复现问题、验证配置修复,并向受影响开源组件贡献补丁。OpenAI把高算力红队、分层隔离、持续监控和异常停跑纳入训练安全评估,同时继续用Agent检查源码及云配置。案例披露这些措施用于支持恢复前沿训练,不能据此推断所有隔离漏洞已经消除。