论文

MRVQ:维度与码率弹性向量检索的单一驻留索引

MRVQ: One Resident Index for Dimension- and Rate-Elastic Vector Search

上下文与知识检索增强

摘要

稠密检索服务需在延迟、质量与内存预算变化时切换嵌入前缀维度与索引比特率。为每个比率单独调优量化器质量最佳,但检索层要同时持有多个码流与量化器状态。我们提出Matryoshka残差向量量化(MRVQ)——面向冻结嵌入的事后残差量化器:其最大率码可双向截断——丢残差级降码率、丢嵌入坐标降维度,一个驻留工件即可服务我们评估的每个(维度,码率)对。在FiQA与NFCorpus、四个嵌入族、{4,8,16}字节码上,MRVQ是我们评估中内存最低的设计:较三个分别训练的QINCo2索引省17.8-22.0倍、较精简共享模型钢人方案省1.89-2.02倍。节省不是免费的:逐率QINCo2在FiQA上nDCG@10好0.026-0.107。但MRVQ在匹配码尺寸下优于PQ、OPQ与AdANNS-OPQ;还评估了低构建成本的PCA标量设计,质量与RaBitQ及其扩展相当而构建快至中位420倍。最后报告两个阴性结果:QINCo2在高率训练时崩溃,排序界假设未达预定接受标准。MRVQ因此是弹性检索的低内存工作点,而非普遍质量赢家。