论文

生物医学检索管道性能和效率权衡的系统研究

A Systematic Study of Biomedical Retrieval Pipeline Trade-offs in Performance and Efficiency

模型评测评测方法与指标

摘要

检索系统越来越多地用于生物医学和临床自然语言处理应用,但对研究人员构建此类系统的实际指导却很有限。在这项工作中,我们通过对检索管道设计选择如何大规模影响性能和效率的实证研究来提供此类指导。特别是,我们检查了对各种现有的公共生物医学文本数据集的检索,利用各种不同类型的查询,包括考试式问题、会话医学查询、社区提出的问题以及跨越语料库选择、块粒度和向量索引配置的各种检索管道设置的非问题表述。检索结果是通过 LLM-as-a-judge 设置和人工验证,使用稳健的胜率比较评估来判断的。在这些实验中,我们为审稿人确定了几个具体指导点,包括语料库聚合在绝对检索质量方面的优越性,以及 MedRAG/pubmed 作为基于图 (HNSW) 索引的帕累托最优单例语料库的出现、适当的分块策略以及在速度和效率方面提供最佳权衡的 FAISS 索引选择。