论文
ALDEN：以主动学习与分布估计评估RAG私有数据泄漏
ALDEN: Boosting Private Data Extraction from Retrieval-Augmented Generation Systems via Active Learning and Distribution Estimation
摘要
检索增强生成（RAG）广泛用于通过外部知识检索来增强 大语言模型，以提高可靠性和泛化性。然而，最近的研究表明，RAG 系统仍然容易受到数据提取攻击，攻击者可以通过将恶意命令嵌入到用户查询中来提取私人数据。尽管具有可行性，但现有的攻击通常存在数据提取率低和实际效果有限的问题。在这里，我们提出了 ALDEN，这是一种新颖的攻击，可以有效且高效地从 RAG 中提取私有数据。首先，我们采用主动学习来多样化恶意查询并提高数据提取率。其次，我们观察到底层知识库的数据分布为查询生成提供了有价值的指导，并引入了基于衰减的动态算法来估计相应的主题分布。通过将它们结合在一起，我们通过综合评估证明 ALDEN 的性能大大优于最先进的方法。