论文
通过基于关键字的事实替换减轻 RAG 系统中的数据库泄漏
Mitigating Database Leakage in RAG Systems with Keyword-Grounded Fact Substitution
摘要
检索增强生成 (RAG) 已成为将 大语言模型 (LLM) 与外部知识源相结合的强大范例。然而，RAG 系统仍然容易受到提示注入攻击，这可能会误导 检索器 或生成器暴露敏感的数据库内容。为了解决这个问题，我们提出了 KFS-RAG，这是一种通过重新构造检索到的上下文来减轻信息泄漏的防御措施。具体来说，我们的方法首先通过注意力传播加上因果扰动机制从检索到的上下文中识别出一小组有影响力的关键词。然后，这些关键字用于指导辅助 LLM 从检索到的段落中生成一组紧凑的基于关键字的事实。最后，原始上下文被这些策划的事实所取代，确保生成器基于经过净化的证据而不是原始检索的文本进行操作。实验评估表明，KFS-RAG 显着降低了注入攻击下数据库泄漏的风险，同时保持了响应的准确性和相关性。这项工作强调了构建安全且值得信赖的 RAG 系统的实用途径。