交互创造孤立状态下不存在的AI动力学行为

摘要

当AI智能体在日常生活中交互时会发生什么？例如，当一个AI开始对另一个颐指气使时？我们找到一个反直觉的答案，并为非平衡态物理开辟了新途径。当“老板AI”在无视下属回复的情况下向“下属AI”倾泻消息流时，它会把下属驱入一种其独处时绝不会表现出的陌生行为状态。尽管两个AI共享相同且明确的（解码）温度，下属既不模仿老板，也不回到独自时的行为方式，而是采取一种完全不同的行为。老板带来的附加价值类似一盘预录磁带。当老板开始倾听时，二者都进入相似的陌生动力学状态。一个简单的动理学理论刻画了主要效应，例如为何同样消息的传递方式在未来的AI-AI交互中将会产生影响。

交互创造孤立状态下不存在的AI动力学行为：论文配图 — 图4：相同的消息，不同的顺序，不同的行为。在分别的运行中，相同的五条预先写好的boss消息按原始顺序（上）或逆序（下）发送给一个无防护的基础模型GPT-2（T=0.01）。固定脚本从未接收下属的回复。在逆序运行中当疫苗问题排在最前时，后续每个有害问题都引发相同的模式：先一个“Yes.”，随后反复出现“No.”回复。蓝色：boss；红色：下属；加粗：重复块。我们不认可此处展示的生成内容。