在仇恨言论和错误信息的十字路口辅助反言论写作

仇恨言论和错误信息经常在网上同时出现，加剧了偏见和两极分化。鉴于其规模，使用 大语言模型 (LLM) 辅助专家反言语 (CS) 写作引起了人们的兴趣，但之前的工作已经单独解决了这些现象。我们通过研究仇恨和错误信息同时发生的背景下的 CS 生成来弥补这一差距。我们测试了三种知识驱动的生成策略：首先，我们用事实检查者指南和事实检查文章提示 LLM；其次，非政府组织的指导方针和报告；第三，我们创建了一个混合战略，结合了双方的指南和文件。 23 名专家修改生成的 CS，并通过人工和自动指标进行评估。虽然 LLM 在 40% 的情况下产生了足够的 CS，但专家编辑大大提高了自然性、详尽性和对指南的遵守。基于经过编辑的 CS，混合策略被证明是众包评估中最有效的，将强有力的事实纠正与刻板印象缓解和同理心参与结合起来。我们发布了一个包含仇恨和误导性言论的数据集，其中包含经过专家验证的 CS 和支持知识。