大语言模型 威胁双盲审查

双盲同行评审是科学界对抗地位和隶属偏见的主要防御手段。其有效性取决于这样的假设：匿名手稿在不透露作者的情况下传达了科学价值。虽然通常可以使用引用网络或文体标记来恢复作者身份，但我们表明，在 大语言模型 (LLM) 存在的情况下，这种假设变得越来越脆弱。仅使用 模型训练 之后发表的论文的标题和摘要，我们发现 LLM 比人类更有效地消除匿名性，其信念集中于从五个领域专家候选人中抽取的一小部分看似可信的作者。即使排除文体和书目线索，这种脆弱性仍然存在，表明问题框架和研究焦点的稳定模式充当作者身份的潜在概念签名。总之，这些发现表明，双盲审查很容易受到自动语义推理的影响，因此有必要重新评估如何在人工智能增强研究生态系统中维持匿名性和公平性。