论文

超越相似性搜索:生产 RAG 系统的统一数据层

Beyond Similarity Search: A Unified Data Layer for Production RAG Systems

AI 基础设施向量数据库

摘要

检索增强生成 (RAG) 系统已成为将 大语言模型 扎根于组织知识的标准架构。然而,生产部署始终暴露出干净的原型性能和实际可靠性之间的差距。本文确定了造成这种差距的三个根本原因:数据过时、租户数据泄漏和查询组合爆炸。所有这三个都可以追溯到传统的分体系统数据层。我们提出并评估了一个基于 PostgreSQL 的统一数据层,具有原生向量搜索 (pgvector) 和 HNSW 索引。对 50,000 个文档的受控基准测试显示,日期过滤查询延迟减少了 92%,租户范围查询延迟减少了 74%,同步不一致为零,并完全消除了跨租户数据泄漏,同步代码减少了 93%。我们还讨论了推荐的混合层架构