论文

掩码与因果语言模型的宣传技术检测比较

Unmasking Propaganda: A Comparative Analysis of Masked and Causal Language Models

模型评测模型能力评测

摘要

宣传检测是NLP的重要任务,尤其用于操纵性政治沟通。但识别具体宣传技术十分困难,因为它们通常微妙且依赖上下文,难以与正当说服语言区分。宣传常通过突出部分事实并淡化或忽略其他事实来塑造感知,影响受众态度、信念或行为。本文使用SemEval-2020 Task 11数据集,通过比较现代语言模型探索宣传技术检测。我们评估基于XLM-RoBERTa或DeBERTa V3的掩码语言模型,以及OpenAI、Google、Mistral、Anthropic和Meta的因果模型,采用基础提示与思维链提示两种策略。结果优于已有最先进模型,最佳掩码模型的技术分类F1为63.18,最佳因果模型为63.62。部分模型擅长煽情语言与辱骂等技术,却难以处理从众和非黑即白谬误。这表明微调、集成和更大数据集可能进一步改善宣传检测。