字节跳动以OpenSearch构建大规模向量检索底座

字节跳动在内部 200 万+ CPU Core、300PB+ 数据、9000+ 集群、12 万+ 节点、210 万亿+ 文档的 OpenSearch 规模上，为 RAG 等大模型应用爆发带来的向量检索需求做自下而上的全栈重构并投入生产运行：算法层引入 DiskANN Vamana 图索引并自研「双模索引」（低成本磁盘 Vamana 与高性能内存 Vamana 并行），在 Vamana 中支持扩展 RaBitQ 并自研优化 SymRaBitQ 量化算法以压缩内存足迹。 存储层构建纯内存、纯磁盘与混合的多级存储架构，优化磁盘文件布局并率先在存算分离架构上实现 k-NN 向量检索，使计算与存储按需独立扩缩容。检索层实现基于 RaBitQ 的径向过滤（前置剪枝并支持带复杂标量过滤的混合检索），小数据段自动切换精确 k-NN 以守住精度。实际运行结果为吞吐 QPS 提升 5.5 倍、P99 延迟降低 70%、总成本下降 80% 以上，最大单向量集群规模超 1000 亿条。 团队自 2020 年起参与 OpenSearch 向量搜索建设并完成 Faiss 集成。