论文
增强联合情报检索
Supercharging Federated Intelligence Retrieval
摘要
RAG 通常假设对文档进行集中访问,但当知识分布在私有数据孤岛时,这种情况就会崩溃。我们提出了一个使用 Flower 构建的安全联合 RAG 系统,该系统执行本地孤岛检索,而服务器端聚合和文本生成在经过验证的机密计算环境中运行,即使存在诚实但好奇或受损的服务器,也可以实现机密远程 LLM 推理。我们还提出了一种级联推理方法,该方法将非机密第三方模型(例如 Amazon Nova)作为辅助上下文,而不会削弱机密性。