产品与服务

火山 Milvus 向量检索工程实现:Extended-RaBitQ 多比特量化 + DiskANN 双形态 + In-Memory Layout

3 倍于 VectorDBBench 榜首,火山 Milvus 如何把向量检索拉到新高度

AI 基础设施模型推理模型优化推理加速量化向量数据库

概述

火山 Milvus 上线之初即集成 DiskANN + RaBitQ,性能版较开源版本提升 30% 以上、磁盘版领先开源版本 5 倍以上;本次进一步披露工程实现:① Extended-RaBitQ——RaBitQ 作者提出的多比特量化扩展(SIGMOD 2025,arXiv:2409.09913),把 RaBitQ 从 1-bit 二值量化扩展到 2-bit、3-bit、4-bit 等多 bit 场景并在查询阶段保持与标量量化相近的计算形式,工程上采用分层策略,粗召回阶段优先极致压缩与高速计算,候选 refine 阶段使用更高精度量化提升距离估计质量;② DiskANN 双形态——内存版(数据载入内存、图搜索直接内存读取,本次性能测试使用)与磁盘版(On-Disk 按需读取、低内存占用支撑更大规模);③ In-Memory Layout——结合 RaBitQ 紧凑量化表示对图搜索路径做协同优化,优先读取轻量化 RaBitQ 表示、采用更适合批量计算的内存布局与访问路径,减少随机访存与无效数据加载,不改变召回语义;④ 查询链路与运行时优化——围绕 Search 关键路径减少内存分配、中间对象生成与冗余消耗,对热点大段连续内存做精细运行时管理与定向大页,图遍历阶段为后续访问路径预取,降低页表查询开销与高并发尾延迟;⑤ 编译工具链升级。