论文
RubricReviewer:从直接批评到客观、全面的Rubric驱动的同行评审
RubricReviewer: From Direct Critique to Objective and Comprehensive Rubric-Driven Peer Review
摘要
主要场所的同行评审面临着前所未有的提交压力,促使使用大语言模型(LLM)作为评审助手。然而,现有的基于 LLM 的审阅者面临两个结构性限制。首先,他们将手稿直接映射到评论,使潜在的标题变得隐含,并将其推导与判断纠缠在一起。其次,流行的范式仅捕获了良好评论的一半:无需训练 代理收集了广泛的证据,但产生了无向的批评,而基于训练的评论者继承了人类的歧视性判断及其噪音和不均匀的覆盖范围。我们引入了 RubricReviewer,这是一个完全由 rubric 驱动的框架,可以解决这两个限制。它使评分标准生成成为一个明确的中间步骤,因此评论生成和最终评估都以纸张自适应评分标准为条件。它还将收集外部证据的 无需训练 代理 (Scout) 与使用这些证据的人类对齐训练模型 (Aligner) 结合起来,融合了两个监督源的优势。对现实世界提交的实验表明,RubricReviewer 生成的评论明显比以前的系统更全面、更具辨别力,并且针对对抗性提示注入攻击表现出最强的鲁棒性。消融研究进一步证实了每个组件的必要性。