AI 审稿人能看到全貌吗？攻击和防御多模式同行评审

将 大语言模型 (LLM) 和多模态 LLM (MLLM) 集成到科学同行评审工作流程中，为对抗性操纵带来了新颖且重大的风险，特别是考虑到科学论文的多模态性质，其中图形（而不仅仅是文本）传达了核心证据。这就造成了一个巨大的差距：目前关于人工智能同行评审的稳健性研究绝大多数都是纯文本的。此外，该问题与标准越狱不同，因为同行评审攻击旨在引发特定领域的有针对性的失败（例如，“夸大此分数”），而不是一般的安全策略违规，对此不存在实际的防御措施。为了解决这个问题，我们推出了 PaperGuard，这是第一个全面的基准测试，旨在系统地评估和防御人工智能生成的同行评审，抵御这些特定领域的跨模式攻击。我们的框架建立在三个支柱之上：（1）跨越多个科学领域的新的多模式同行评审数据集； (2) 一套统一的攻击，包括黑盒提示注入和白盒扰动，专门针对文本（GCG）和数字（PGD）而设计； （3）由学术论文的长上下文挑战激发的实用防御，使用基于块的嵌入搜索来有效地定位和减轻有害指令。我们在最先进的模型上进行的广泛实验证实，人工智能审阅者普遍容易受到攻击。 PaperGuard 建立了必要的基础基准、协议和可行的防御，以开创值得信赖、抗攻击的人工智能辅助学术审查。