论文

ArtifactLinker:链接科学文物以自动发现最先进的技术

ArtifactLinker: Linking Scientific Artifacts for Automatic State-of-the-Art Discovery

应用与实践科学研究

摘要

模型和数据集等科学制品是研究的基础。随着 HuggingFace 等平台的快速发展,研究人员现在可以访问大量的工件。然而,一个关键的挑战仍然存在:我们如何通过充分利用现有工件来自动发现给定数据集的最先进(SOTA)模型?我们通过将 HuggingFace 建模为工件图来将此任务形式化为自动 SOTA 发现,其中节点是模型/数据集,边代表评估。我们提出了 ArtifactLinker,一个两阶段框架:(1) 使用图神经网络 (GNN) 或图增强 大语言模型 (LLM) 对有前途的未观察模型数据集链接进行排名,以及 (2) 通过使用基于 LLM 的代理进行编码实验来验证排名靠前的链接。我们进一步引入名为 ArtifactBench 的基准测试,其中包含 14,053 个工件和 51,337 个关系来评估两个阶段的性能。结果表明:(1)现有工件之间的图结构对于缺失链接预测是有效的; (2) 使用ArtifactLinker进行端到端排名和验证有助于发现潜在的SOTA结果和研究见解。