论文
IO Factory:大规模模拟AI赋能的信息影响行动
IO Factory: Simulating AI-Enabled Influence Campaigns at Scale
摘要
我们提出IO Factory,一个将信息与影响行动模拟为完全集成、可追踪过程的AI驱动框架。数字操纵的威胁如今已从单个语言模型生成的说服性文本扩展到AI蜂群(AI swarms),即持续存在的协调智能体群,它们适应平台反馈并将有组织的行动伪装成普通社交互动。由于这类行动无法仅凭孤立消息识别,必须在规划、平台动作、曝光、解读、测量和适应的连续谱系上进行分析。IO Factory在受控的模拟平台内表示这一过程,将行动者角色、平台动作、曝光记录、基于模型的结构化评估以及对模拟人群的配置化变更关联起来。我们实现了该架构,并在多达100,000个智能体的配置上对其进行评估。结果表明,IO Factory能够大规模执行行动时间线,并产出可检查的曝光证据以及所配置信念变量的可测量变动。通过记录每次运行所使用的行动者、目标、动作约束、曝光路径和测量规则,IO Factory支持可复现的研究与协调影响行动的红队分析。