开源项目
saber:预测Best-of-N攻击成功率
microsoft/saber
概述
SABER是微软开源的Python包,用于在Best-of-N采样下预测大语言模型的大规模对抗风险,面向做安全评测与红队分析的团队。本次为仓库新建发布,MIT许可:单次ASR@1指标无法反映攻击者并行重试的能力,SABER依据每查询脆弱性服从Beta分布的幂律关系,从小规模测量外推大预算下的ASR@N并给出置信区间,还能反推达到目标成功率所需的尝试预算。pip install saber-risk即可安装,核心API为fit、predict与budget_for_asr,仓库附完整示例。