论文
在线阴谋的代理检测
Agentic Detection of Online Conspiracies
摘要
社交媒体上的阴谋言论并不总是通过明确的主张或稳定的词汇标记来表达。相同的表面内容可能表达认可、合理的担忧、批评、讽刺或嘲笑。因此,主要的挑战不仅是识别与阴谋相关的主张,还要推断说话者的意图——话语的言外之力。我们认为,这可以通过使用相关的社交背景来实现,并提出一个代理框架,配备一套支持社交查询的工具。我们在独特的希伯来语推文数据集上展示了我们的方法的好处,该数据集涵盖了四年内(2018 年底 - 2023 年初)发布的公开希伯来语推文的 80%--90%,涵盖了多个选举周期以及新冠大流行年份和相关疫苗接种活动。这种广泛的覆盖范围可用于恢复不同的社会背景。在手动注释的对抗数据集上评估我们的框架,我们发现上下文感知工作流程始终优于纯文本分类,并且代理框架的性能明显优于其他框架和设置,包括暴露于代理可用的相同上下文的非代理模型。我们进一步对结果、错误和效率(词元经济)权衡进行分析。这些发现支持将阴谋检测任务视为一项嵌入社会的解释任务,其中有效的分类不仅取决于对上下文的访问,还取决于自适应推理,其中代理根据每个案例使用工具,只要求提供与其当前推理步骤相关的证据。