论文

PILLAR:用于增强检索的私有倒排索引词汇查找

PILLAR: Private Inverted-Index Lexical Lookup for Augmented Retrieval

上下文与知识检索增强

摘要

检索增强生成 (RAG) 将用户的查询交给语料库的托管者。我们提出了 PILLAR,一种基于隐私信息检索 (PIR) 的隐私保护 RAG (PPRAG) 系统,其中客户端利用服务器保存的公开语料库中与其查询最相似的 k 个文档来响应其查询,而服务器对查询一无所知,无论是其术语还是其访问模式。先前的 PPRAG 构造仅依赖于密集检索,将近似最近邻搜索转换为许多依赖于查询的 PIR 轮次,并在延迟和检索质量方面付出代价。相反,PILLAR 分两个阶段执行私有混合检索。稀疏阶段针对精心设计的预先计算的 BM25 分数索引发出少量固定数量的 PIR 查询,将语料库过滤到与查询共享术语的候选者,而服务器却看不到这些术语。然后,密集阶段仅获取这些候选​​者的文档嵌入并在本地对它们重新排名,从而避免私有密集检索通常需要的许多昂贵的 PIR 查询。我们用两个协议实例化 PILLAR,这两个协议以延迟和检索质量为代价,每个协议都构建在不同的词汇搜索私有呈现之上。 PILLAR-Bin 将发布列表放入哈希表中,并且是一种单轮设计,可实现比最先进的私有检索方案更低的延迟。 PILLAR-Tr​​ee 将块最大修剪转变为与布谷鸟哈希表相结合的不经意的树遍历,并以比最先进的方案更低的延迟实现了最高的检索质量。