多模态大语言模型可以生成和检测多模态社交媒体假新闻吗？

生成式人工智能的快速发展引起了人们对滥用多模态大语言模型（MLLM）在社交媒体上进行大规模虚假信息活动的担忧。尽管现有关于文本虚假信息的研究，但一个基本问题仍未得到解答：MLLM 是否可以被用来制造真实的多模态假新闻，并且它们能否可靠地检测到它？我们引入了一个多Agent框架，其中故事Agent、图像Agent和评论Agent合作制作虚假的社交媒体帖子，看似与真实新闻相反。我们应用该框架生成超过 9,000 条跨科学、健康和娱乐领域的配对多模态新闻帖子，并对 16 个开源和闭源 MLLM 进行自动检测基准测试。我们发现大多数模型都远远低于人类水平的准确性，并且在识别图像真实性方面严重失败。我们的研究为开发针对社交媒体假新闻的强大防御措施奠定了基础。代码和数据可在 https: //github.com/xiuzhenzhang/Multimodal. 获取。