论文
SciPaths:预测科学发现的途径
SciPaths: Forecasting Pathways to Scientific Discovery
摘要
科学进步取决于促成贡献的顺序,但现有的 AI4Science 基准主要关注引文预测、文献检索或想法生成,而不是使进步成为可能的依赖关系。在本文中,我们介绍了发现路径预测:给定目标科学贡献和在特定时间可用的现有文献,任务是(1)确定实现它所需的促成贡献,(2)当存在此类先前工作时,将每个贡献都扎根于先前的工作中。我们提出了 SciPaths,这是由机器学习和自然语言处理论文构建的 262 条专家注释的黄金路径和 2,444 条白银路径的基准,其中每条路径都记录了可行的贡献、角色、基本原理以及先前的工作基础或未映射的决策。评估前沿和开放权重语言模型,我们发现在严格语义匹配下,最佳模型仅达到 0.189 F1,核心方法依赖关系最难恢复。当提供黄金支持贡献时,先前的工作基础会大大改善,这表明分解质量是端到端路径恢复的主要瓶颈。因此,SciPaths 将评估转向科学预测中缺失的能力:从目标贡献向后推理到启用科学构建块和使其可行的先前工作依赖性。