论文

注意差距:PII 检测系统的稳健性风险

Mind the Gap: Robustness Risks in PII Detection Systems

模型评测鲁棒性、公平性与可信度评测

摘要

个人身份信息 (PII) 检测是数据保护基础设施的基本组成部分,其中丢失的实体构成直接的隐私和安全风险。尽管现代 PII 系统在标准基准上报告了强劲的性能,但我们表明,这些评估掩盖了部署中遇到的实际分布变化下的严重鲁棒性故障。我们不是比较最先进的准确性,而是研究不同的 PII 检测范例在嘈杂、非结构化和非正式输入下如何失败。我们构建了一个涵盖七类自然分布变化的压力测试基准,并评估了来自三个广泛部署的架构系列的代表性系统:基于编码器的 NER (SpaCy)、基于规则的混合检测 (Presidio) 和生成式 LLM 提取 (Qwen2.5-3B)。所有这三者都表现出分布外输入的显着退化,但具有独特且互补的故障模式。编码器模型主要在不可见的表面形式和边界检测上失败,基于规则的系统在非标准格式上失败,并且 LLM 表现出实体类型混乱和生成不稳定。这些结果表明,综合基准分数掩盖了部署关键弱点,并且没有单一架构在跨 PII 类别时始终可靠。受这些发现的启发,我们提出了一种混合检测管道,具有 QA 驱动的反馈循环,用于迭代风险缓解,并发布了我们的基准来支持 PII 系统的 OOD 感知评估。