FD-RAG：联合双系统检索增强生成

检索增强生成（RAG）已成为将 大语言模型 扎根于外部知识的范例，但大多数现有的 RAG 系统都假设集中的知识访问和充足的计算。这些假设在边缘环境中不成立，其中知识跨设备分散，原始数据无法共享，并且重复的 LLM 调用成本高昂。我们提出了 FD-RAG，一种联合双系统 RAG 框架，它将轻量级内存访问与按需 LLM 推理分离，以实现去中心化部署。具体来说，FD-RAG 在本地语料库上学习语义感知的自适应超图，并将它们提炼成紧凑的 QA 内存。在推理时，它通过直接内存匹配回答覆盖良好的查询，并仅在必要时调用基于 LLM 的推理，同时将检索到的内存跟踪到基于超图的证据。为了减轻跨设备知识碎片化，FD-RAG 跨设备聚合匿名内存，而不会暴露原始文档。 QA 基准实验表明，与强大的本地和联合基准相比，FD-RAG 的准确性提高了 7.8%，同时延迟降低了 8.4$\times$。我们还提供理论分析，为所提出的超图学习建立 $\mathcal{O}(1/ε^{2})$ 收敛率，支持其在边缘设置中的易于部署。