论文

RefVerifier:科学手稿的半自动参考声明验证

RefVerifier: Semi-Automated Reference Claim Verification for Scientific Manuscripts

应用与实践科学研究

摘要

随着软件工程研究提交数量的激增,同行评审员面临着严格的时间限制,使得对引用支持的声明的系统验证成本高昂。因此,未经证实的主张和语义漂移可能会在科学文献中传播而未被发现。事实检查和检索增强生成工具等现有方法对开放域网络数据进行操作或单独评估声明,而无需处理完整的手稿。为了解决这一差距,我们推出了 RefVerifier,这是一种半自动化、受引文限制的参考验证原型,旨在支持学术同行评审。 RefVerifier 从手稿中提取引文句子,根据学术数据库检查参考书目元数据,解析对全文开放获取 PDF 的引用,本地化相关证据段落,并使用自然语言解释生成判决。在公共基准上评估 RefVerifier 显示,声明检测的 F1 分数为 0.990,开放获取分辨率为 57.6% 的参考文献,证据本地化的摘要命中率为 98%,完整引用论文的命中率为 68%。在对 8 份稿件进行的端到端测试中,RefVerifier 的判决准确率达到 71%。通过自动化文档检索和证据本地化,同时保留审稿人的监督,RefVerifier 为学术出版中半自动完整性检查的可行性提供了第一个指标。