论文
SCARCE:经嵌入的可扩展级联分析用于稀有事件表征
SCARCE: Scalable Cascade Analysis for Rare-event Characterisation via Embeddings
摘要
稀有事件决定现代AI系统的安全画像,但其概率极难估计:直接蒙特卡洛需要令人望而却步的样本预算。子集模拟(SS)把稀有事件概率分解为嵌套中间事件上的适度条件概率。但经典SS需要手工设计的标量性能函数——要求详细了解失效几何并限制跨域迁移。我们提出SCARCE:用学习的潜在表示与几何标尺替代性能函数——以接近失效区域的程度打分;自适应阈值直接从数据构造嵌套中间事件。我们通过非负上鞅形式化SCARCE——产生在早期停止下仍有效的高概率上包络。在MNIST误分类上(稠密蒙特卡洛提供真值):SCARCE取得比网格搜索的传统SS约低400–500倍的平均绝对误差。然后我们在机队级威胁模型下研究PAIR式LLM越狱:在Llama-Guard-3-8B隐状态上,基于PCA的标尺对η≥10⁻³取得2.6%的平均相对误差,并在重校准后迁移到GCG式语料(2.93%)。
