先校准后委派：通过模型级联进行安全监控并提供风险和预算保证

大规模监控 LLM 安全性需要平衡成本和准确性：廉价的潜在空间探测器可以筛查每个输入，但困难情况应升级给更昂贵的专家。现有的级联委托基于探测不确定性，但不确定性并不能很好地代表专家调用的效用，因为它忽略了专家是否会真正改进预测。为了解决这个问题，我们引入了 Calibrate-Then-Delegate (CTD)，这是一种模型级联方法，可以为计算成本或安全性能提供概率保证，同时支持实例级（流）决策。 CTD 建立在一种新颖的委托值 (DV) 探针的基础上，这是一种轻量级模型，在与安全探针相同的内部表示上运行，可预测在专家调用后用专家分数替换探针分数的好处。 CTD 使用保留数据和多重假设检验来校准 DV 信号的阈值，在优化互补目标的同时产生有限样本保证。 CTD 使用学习注意力探针对四个安全数据集进行评估，在大部分预算范围内改进了基于不确定性的委托，避免了不必要的专家调用，甚至从专家得分平均低于探针得分的组中提取正值子集。四种探针架构的消融表明这些发现并不特定于任何特定架构。