论文

域况条件验证:用于适配与监测安全分类器的正确性估计

Regime-Conditional Verification: Correctness Estimation for Adapting and Monitoring Safety Classifiers

模型推理推理验证与自校正

摘要

与大语言模型一同部署的安全分类器常常因两个原因失效:其决策反映训练期间学到的策略而非部署方期望的策略,且性能随部署流量的演变而退化。我们提出域况条件验证(RCV),一个无需重训练即可适配现成安全分类器的轻量包装器。RCV从分类器的内部表示估计每个预测与部署方策略不一致的概率,并选择性地纠正可能错误的预测。同样的正确性估计还为检测分布漂移提供了无标签信号,支持一个维护循环:更新正确性估计层,只在必要时才诉诸分类器微调。在三个现成安全分类器和两个基准数据集上,RCV在每个分类器-数据集组合中都提升了对部署方策略的遵从度,在不改动底层分类器的情况下最多捕获0.81的此前漏检的不安全内容。在一项包含十个攻击活动的部署研究中——每个活动都是RCV训练中留出的一个伤害类别——RCV在专用注入面板中检测到所有活动;在维护普查中,多数漂移片段无需更新分类器即被修复,微调只保留给修复无法恢复的残余片段。