谱检索：基于词元嵌入的多尺度 Sinc 卷积，用于 LLM 多代理系统中的本地化检索

[删节] - Spectral Retrieval 是一个插件重新排序阶段，它通过词元嵌入上的多尺度 sinc 卷积在每个词元 MaxSim 和均值池检索之间进行插值。在标准密集检索中，每个文档都是一个均值池向量；当相关性局限于较短的子跨度时，信号会平均化为噪声。谱检索重用后期交互索引中的每个标记嵌入，并将它们与多个尺度的归一化 sinc 内核进行卷积。当 L=1 时，内核充当身份，恢复每个词元 MaxSim；随着 L 的增长，它接近均匀过滤器，恢复均值池化。位置和尺度上的最大余弦产生的分数可能不低于任一端点的信息量。在包含 1,000 个文档并植入单位置尖峰的受控合成基准上，无论尖峰强度如何，均值池检索都是偶然的 (Recall@10 ~ 0.02)，而一旦植入的余弦超过语料库级词元噪声层，谱检索就会达到 Recall@10 = 1.0。在使用冻结的 all-mpnet-base-v2 编码器的 LIMIT-small 上，频谱检索将 Recall@10 从 0.33 提升到 0.90，将 MRR 从 0.22 提升到 0.79，将严格 Success@10 从 0.12 提升到 0.84，无需重新训练。该方法自然适合多代理 LLM 系统，其中每个代理都受益于共享语料库上更严格的、特定于角色的检索窗口。