论文
MCompassRAG:主题元数据作为段落级检索的语义罗盘
MCompassRAG: Topic Metadata as a Semantic Compass for Paragraph-Level Retrieval
摘要
检索增强生成(RAG)系统主要取决于文档的分块和搜索方式。细粒度的块可以提高检索精度,但会扩大搜索空间,增加延迟和成本;较大的块会减少候选的数量,但会使密集的相似性不太可靠,因为每个块的表示混合了多个主题并引入了更多的语义噪声。这种权衡在深度研究任务中尤其受到限制,因为在深度研究任务中,检索必须在大型异构语料库中既快速又精确。我们引入了 MCompassRAG,一个元数据引导的检索框架,它使用主题级信号作为选择相关证据的语义指南针。 MCompassRAG 不是仅仅依赖于查询和噪声块嵌入之间的余弦相似性,而是使用同一嵌入空间中的主题元数据来丰富块表示,并通过 LLM 教师 蒸馏 训练轻量级 检索器。在推理时,MCompassRAG 执行主题感知检索,无需额外的 LLM 调用,从而提高效率和证据质量。在六个复杂的检索基准中,MCompassRAG 平均将信息效率 (IE) 提高了 8.24%,并且延迟比最高效的 RAG 基准降低了 5 倍以上。代码可在 https://github.com/AmirAbaskohi/MCompassRAG 上找到。