论文

ProSearch:评测科学实验规程检索的多重约束绑定

ProSearch: Benchmarking Multi-Constraint Protocol Retrieval in Experimental Science

模型评测上下文与知识应用与实践检索增强基准与评测资源科学研究

摘要

在AI for Science 场景中,实验设计和方法复现需要检索满足多个相互依赖的约束的实验规程,但现有的基准缺乏对此能力的系统评估。为了解决这一差距,我们引入了 ProSearch,这是实验科学中多约束实验规程检索的基准。 ProSearch具有三个主要特点:(1)真实性,查询基于真实的实验记录和专家定义的模板; (2)复杂性,有60个实验字段及其依赖关系; (3) 诊断性,每个查询有 3-5 个显式约束,包括数字和否定约束。我们通过基于 LLM 的提取、数据驱动的约束选择、受控查询生成和基于证据的相关性验证来构建 ProSearch。生成的基准包含 6 个实验科学领域的 1,515 个查询。我们使用 19 种代表性检索器对 ProSearch 进行了广泛的实验并进行了补充分析。表现最好的检索器的平均 nDCG@10 仅达到 0.290,通过重排序提高到 0.474。结构化诊断分析表明,显式约束匹配提供了强大的排名信号,而手动错误分析将联合约束绑定识别为关键瓶颈。 ProSearch 为系统评估科学检索系统提供了一个测试平台。

ProSearch:评测科学实验协议检索的多重约束绑定:论文配图
图 1:ProSearch 数据构建流程。