产品与服务

阿里云智能体安全中心AI Red Teaming正式商业化

AI Red Teaming正式商业化

模型评测安全与风险评测

概述

阿里云智能体安全中心的AI Red Teaming功能正式商业化:此前处于试用阶段的能力转为正式收费提供,用于对大模型应用与智能体做自动化红队测试,发现越狱、提示注入等安全风险。正在上线面向公众的大模型应用、需满足安全评估要求的团队,可将其纳入上线前与版本迭代的安全测试流程;具体覆盖的攻击面、报告口径与计费方式需向阿里云确认,自动化测试结果仍建议配合人工评估形成结论。