从生成到检测：基于 LLM 生成假新闻的话语驱动场景探索

在这项研究中，我们研究了现代大语言模型如何在四种操纵场景的受控设置下生成和检测假新闻。这些是基于新闻话语框架的开放式生成、重写、操作提示和基于属性的提示。首先，我们使用七个广泛采用的模型创建了一个合成假新闻语料库，其中包含这四种场景中生成的 14000 篇文章。然后我们分析了其语言特性，以评估模型生成的新闻在结构和语义上与真实新闻的相似程度。最后，为了评估检测性能，我们进行了实验，其中每个模型都判断生成假新闻，从基本的检测提示开始，并通过迭代细化过程开发改进的提示，从真假对中提取误导性模式。我们的结果揭示了不同模型在生成和检测错误信息方面存在显着差异，证明生成策略强烈影响可检测性，并表明细化的提示不会改善并且通常会损害检测性能。因此，该研究对大语言模型在典型生成场景中生成假新闻的检测能力进行了系统评估。