论文

高维 LLM 嵌入的快速高效近似最近邻搜索

Fast and Efficient Approximate Nearest Neighbor Search for High-Dimensional LLM Embeddings

AI 基础设施向量数据库

摘要

年度 SISAP 索引挑战赛在严格的约束下对近似最近邻搜索 (ANNS) 算法进行基准测试。本文介绍了我们在 2026 年版中提交的内容,解决了 1024 维 BGE-M3 嵌入上的 $k$-最近邻图 (kNNG) 构造(任务 1)和非标准化 Llama-3.2-8B 特征上的最大内积搜索 (MIPS)(任务 2)。为了优化构建速度,我们利用 Equi-Voronoi Polytopes (EVP) 进行高效量化,并辅以有针对性的重新排名策略以保持高召回率。对于 MIPS,我们通过维度增强将不对称内积问题转换为欧几里德搜索空间。为了减少查询延迟并优化内存访问,我们在图构建之前通过快速线性分配排序(FLAS)引入一维预排序机制。这显着提高了后续图遍历期间的空间局部性和缓存命中率。源代码:https://github.com/Visual-Computing/sisap26-deglib