论文

ATIBA:研究论文的基础完整性和质量检查

ATIBA: Grounded Integrity and Quality Checking for Research Papers

应用与实践科学研究

摘要

检查稿件的参考完整性、是否符合目标场所的具体提交规则以及是否遵守社区报告标准是手动的、重复的,并且每个场所的情况都不同,因此在实践中,检查的结果不一致或被跳过。我们推出 ATIBA,这是一种对手稿进行五项基础完整性和质量检查的工具:参考文献完整性检查,根据书目来源验证每个引文,并标记撤回或无法找到的参考文献;场馆/赛道合规性检查,直接从场馆自己的论文征集页面得出提交标准,并根据这些标准评估稿件,每个判决都锚定于该页面的逐字引用;针对 ACM SIGSOFT 经验标准进行经验标准合规性检查,并进行幻觉防御,丢弃任何无法在手稿中逐字定位的证据引用;通过 Azure OpenAI 由 GPT-5.4 提供支持的多模式 AI 审核(特定地点、正式和页面锚定注释);引文建议功能可为手稿提出候选参考文献,并在向用户显示之前对照书目来源验证每个参考文献。所有五项检查都是围绕同一原则设计的:仅信任 LLM 进行判断,而绝不会发明其判断所依据的证据。我们通过一项有 13 名非作者参与者参与的有调节的用户研究来评估 ATIBA。六个调查项目的一致性从 69% 到 92% 不等,平均值为 85%,这提供了评估工作流程中积极感知有用性的初步证据。这些发现确立了感知的有用性;客观准确性仍有待衡量。