火山 Milvus 刷新向量检索性能：QPS 20420，达 VectorDBBench 榜首近 3 倍（59C 约 7105 元/月）

火山 Milvus 通过优化向量检索算法与在线查询链路刷新性能上限：在 VectorDBBench 统一限定每月 1000 美元固定成本（按 2025 年均汇率 7.1429 折算约 7142.9 元/月）的横向对比口径下，截止至 2026 年 6 月 17 日，火山 Milvus 在保持高 Recall 的前提下 QPS 达到当前 VectorDBBench 榜首成绩的近 3 倍（正文称本次延续了此前相比开源 Milvus 超过 5 倍的性能提升）。本次测试配置：数据集 1000 万 Cohere、向量维度 768、相似度 COSINE、TopK 100、客户端并发 250、客户端部署于火山引擎 ECS ecs.g4al.16xlarge，Milvus 在线查询链路总核数 59C、包月约 7105 元/月（proxy 8C8G×1、mixcoord 1C2G×1、querynode 48C48G×1、datanode 2C4G×1、indexnode 池化按需付费）。测试结果：Recall 93.9%、QPS 20420、p99 延迟 2.7ms、平均延迟 2.5ms、导入时间约 4515s；综合开源 VectorDBBench 结果为 QPS 第一、导入时间第二、p99 延迟并列第三、Recall 第四。文中称在保持相同吞吐与召回前提下可将向量检索资源与成本压缩至原来的约 1/3。复现参考《Milvus 向量检索性能测试操作手册》(https://www.volcengine.com/docs/85665/2558924)。 补充材料（2026-07-08）：火山 Milvus 在已集成 DiskANN + RaBitQ的基础上完成新一轮算法与工程优化：算法侧引入 RaBitQ 作者的 Extended-RaBitQ（把 1-bit 二值量化扩展到 2/3/4-bit 等多比特，查询阶段保持与标量量化相近的计算形式），与 DiskANN 组合实现分阶段压缩粒度——粗召回阶段追求极致压缩与高速计算、候选 refine 阶段使用更高精度量化提升距离估计质量；针对内存版 DiskANN 做了 In-Memory Layout 优化，把 RaBitQ 表示、候选点信息与图遍历访问模式协同排布，使查询线程优先读取轻量化量化表示并按批量计算友好的路径访存；工程侧对 Search 关键路径瘦身，减少不必要的内存分配、中间对象生成与 Copy，对热点大段连续内存做更精细的运行时管理并加入定向大页，优化图遍历访存与编译工具链。在 VectorDBBench 统一每月 1000 美元（约 7142.9 元/月）成本约束下，火山 Milvus 在线查询链路使用 59C、约 7105 元/月取得 QPS 20420、Recall 93.9%、p99 延迟 2.7ms、平均延迟 2.5ms、导入时间约 4515s，QPS 达 VectorDBBench 榜首近 3 倍，综合结果 QPS 第一、导入时间第二、p99 并列第三、Recall 第四；测试数据集为一千万条 Cohere、768 维、COSINE、TopK 100、客户端并发 250。 后续材料（2026-07-08）：火山 Milvus 在已集成 DiskANN + RaBitQ的基础上完成新一轮算法与工程优化：算法侧引入 RaBitQ 作者的 Extended-RaBitQ（把 1-bit 二值量化扩展到 2/3/4-bit 等多比特，查询阶段保持与标量量化相近的计算形式），与 DiskANN 组合实现分阶段压缩粒度——粗召回阶段追求极致压缩与高速计算、候选 refine 阶段使用更高精度量化提升距离估计质量；针对内存版 DiskANN 做了 In-Memory Layout 优化，把 RaBitQ 表示、候选点信息与图遍历访问模式协同排布，使查询线程优先读取轻量化量化表示并按批量计算友好的路径访存；工程侧对 Search 关键路径瘦身，减少不必要的内存分配、中间对象生成与 Copy，对热点大段连续内存做更精细的运行时管理并加入定向大页，优化图遍历访存与编译工具链。在 VectorDBBench 统一每月 1000 美元（约 7142.9 元/月）成本约束下，火山 Milvus 在线查询链路使用 59C、约 7105 元/月取得 QPS 20420、Recall 93.9%、p99 延迟 2.7ms、平均延迟 2.5ms、导入时间约 4515s，QPS 达 VectorDBBench 榜首近 3 倍，综合结果 QPS 第一、导入时间第二、p99 并列第三、Recall 第四；测试数据集为一千万条 Cohere、768 维、COSINE、TopK 100、客户端并发 250。