论文
ProSearch:评测科学实验规程检索的多重约束绑定
ProSearch: Benchmarking Multi-Constraint Protocol Retrieval in Experimental Science
摘要
在AI for Science 场景中,实验设计和方法复现需要检索满足多个相互依赖的约束的实验规程,但现有的基准缺乏对此能力的系统评估。为了解决这一差距,我们引入了 ProSearch,这是实验科学中多约束实验规程检索的基准。 ProSearch具有三个主要特点:(1)真实性,查询基于真实的实验记录和专家定义的模板; (2)复杂性,有60个实验字段及其依赖关系; (3) 诊断性,每个查询有 3-5 个显式约束,包括数字和否定约束。我们通过基于 LLM 的提取、数据驱动的约束选择、受控查询生成和基于证据的相关性验证来构建 ProSearch。生成的基准包含 6 个实验科学领域的 1,515 个查询。我们使用 19 种代表性检索器对 ProSearch 进行了广泛的实验并进行了补充分析。表现最好的检索器的平均 nDCG@10 仅达到 0.290,通过重排序提高到 0.474。结构化诊断分析表明,显式约束匹配提供了强大的排名信号,而手动错误分析将联合约束绑定识别为关键瓶颈。 ProSearch 为系统评估科学检索系统提供了一个测试平台。
