多代理系统利用开源 LLM 减轻虚假信息威胁

在当代社会，虚假信息的威胁已达到惊人的水平，电子通信、社交媒体的扩散和人工智能的进步加剧了这一威胁。因此，迫切需要制定有效的对策来减轻这一威胁。然而，问题的规模之大使得手动事实检查和人工验证不够充分，这凸显了采用自动化方法来检测和揭穿虚假信息的必要性。本文提出了一种基于多代理系统的新颖方法，该方法模拟从事虚假信息检测任务的人类注释者的决策过程。通过结合共识机制、认知多样性和知识多样性以及层次结构，受人类注释者行为的启发，所提出的方法比个体 大语言模型 (LLM)（包括 GPT 4 和 GPT 3.5）取得了更好的结果。该系统利用开放模型（例如 LLaMA、Kimi、Qwen、Deepseek 和 LLaMA-Nemotron）来确保更高的透明度。所提出方法的评估涵盖具有不同资源可用性的语言的数据集，包括英语（高资源）、波兰语（中等资源）、斯洛伐克语（低资源）和保加利亚语（低资源）。对直接虚假信息检测、值得验证的文本识别以及包含可验证事实主张的文本检测等任务进行了实验。