冻结LLM通过提示优化建立可审计的通信编码

我们研究来自不同提供商的两个冻结的大语言模型之间的通信，这些模型具有不同的标记器，通过其 API 端点访问。两人玩了一个参考游戏：一个人看到一个物体，并在小字母表上用一段固定长度的短消息描述它；另一个人看到一个物体，然后用一个小字母表上的短消息来描述它；另一个必须从候选集中挑选该对象。两个模型的权重都没有更新。每个Agent的提示都由一个独立的提示优化器重写，该优化器的反射模型读取该Agent的评分交互。在位置设置中，优化的提示带有一个共享代码，该代码泛化到测量的无码本基线之上的保留对象，包括当内存窗口被移除时。在第二种设置中，独立的每个字母块不再适合消息，尽管整个对象位值代码可以。基础系统无法建立可靠的通信：发送者努力保留单射规则，而接收者所看到的确认示例太少。发送者冲突惩罚、成功交互的保留和顺序优化使得在某些运行中能够成功进行位值通信。结果因运行和反射模型而异。在成功运行时，协议将被写入优化的提示中，可以直接读取和审核。