论文
从退路到前线:LLM 何时能成为人类观点的卓越标注者?
From Fallback to Frontline: When Can LLMs be Superior Annotators of Human Perspectives?
摘要
尽管大语言模型(LLM)越来越多地被大规模用作标注者,但它们通常被视为一种务实上的退路,而非人类观点的忠实估计器。本工作挑战了这一成见。通过将视角采择(perspective-taking)框架化为对潜在群体层面判断的估计,我们刻画了现代 LLM 在主观任务上预测聚合的子群体意见时能够超越人类标注者(包括群体内部成员)的条件,并表明这些条件在实践中很常见。这一优势源于 LLM 作为估计器的结构性质,包括低方差以及表征偏差与处理偏差之间耦合的降低,而非任何对亲历经验的宣称。我们的分析识别出 LLM 可作为统计上占优的前线估计器的明确区间,也给出了人类判断仍然不可或缺的原则性边界。这些发现将 LLM 从节省成本的折中方案重新定位为估计群体人类观点的原则性工具。
