论文
数据敏感检索增强生成的隐私政策执行护栏
Privacy Policy Enforcement Guardrails for Data-Sensitive Retrieval-Augmented Generation
摘要
标准 PII 过滤器经常会漏掉 RAG 系统中的上下文数据泄漏,例如共同识别个人的非监管属性集群。我们引入了一种隐私政策执行(PPE)框架,该框架使用具有融合文本嵌入的双一类密度估计器和用于分布外输入的校准弃权区域。使用跨医学、金融和法律的轴分层、多 LLM 合成数据管道,我们发现传统的高斯混合基线由于关注语言注册而不是内容而无法进行边界安全压力测试。我们提出的 T3+OCSVM 检测器经过安全和边缘安全数据的训练,实现了 0.93+ 的边缘 AUROC,同时将误报减少了 44-55 个百分点,并保持毫秒级延迟。与监督 MLP 分类器或 14B 参数 LLM 法官相比,我们的框架提供了卓越的操作适用性,因为前者存在高弃权率,后者存在延迟和校准问题。该方法为任何合成数据训练的分类器提供了强大的压力测试标准。