探测，不提示：用于多元 RAG 中元数据过滤的隐藏状态探测

Multi-Meta-RAG 通过提示 gpt-3.5-turbo 从每个查询中提取元数据（新闻源）来过滤向量存储，从而改进多跳问答的检索。我们展示了这种专有的、自由形式的提取器可以被在小型开源语言模型的隐藏状态上训练的本地确定性探针所取代。在所有 2556 个 MultiHop-RAG 查询中，探针达到了 90.9% 的设置准确率，而无模型子字符串基线为 88.0%，GPT-3.5 为 80.9%，这一差距完全来自空查询，GPT-3.5 从不放弃这一点；对于非空查询，这三个查询都保持在一个点左右。由于探测器的输出空间恰好是固定的 49 个源词汇表，因此它不会像提示模型那样漂移到允许列表之外。三种设计选择使其发挥作用：选择浅层、均值池以及在源的长尾上进行类别不平衡感知的多标签训练。 135M 参数模型的落在 1.5B 参数模型的约 1.5 个点之内，因此滤波器的输出成本很低：通过前几层的部分前向传递加上一个线性头，没有 API。该代码可从 https://github.com/mxpoliakov/Multi-Meta-RAG 获取。