论文
AI大模型引擎如何塑造全球冲突信息环境
How Artificial Intelligence LLM Engines Shape the Global Conflict Information Environment
摘要
AI回答引擎如今承担着分析师、学者与公众就和平与冲突议题所提问题的越来越大的份额。已知大语言模型(LLM)在某些条件下产生幻觉,但当被问及冲突时这些错误是否有可辨识的模式?如果有,它们能教给我们关于变化的全球冲突信息环境的什么?为回答,我们首先向五个领先回答引擎提出关于28场冲突的一系列问题,并把它们的5,460个答案对照有记录的证据打分。我们发现:围绕给定冲突的可检索记录越稀薄,引擎就越多地捏造、错误归因与算错。稀薄记录不仅助长幻觉,还制造对错误与虚假信息的结构性暴露——因为它们是最容易经生成式引擎优化(GEO)被扭曲以偏置引擎响应的记录。经对LLM抽取冲突事实的1,048个网站的分析:我们发现GEO来源优化已在发生,且尽管国家派系的数字化捕获仍处萌芽,它正快速增长。我们解释这些发现对GEO信息战兴起下学术研究的意义,并为政策主张回归AI工具无法复制的深度本地监测与基于翻译的研究,以对该快速演变领域的未来研究机会与挑战的讨论收尾。