论文
从信号到结构:记忆架构如何驱动LLM智能体中的语言涌现
From Signals to Structure: How Memory Architecture Drives Language Emergence in LLM Agents
摘要
两个智能体如何从零发明共享语言?在Lewis信号博弈中——发送者与接收者必须仅凭交互历史就一套编码达成协调。我们用LLM智能体跨不同通道配置研究五种记忆架构——发现记忆架构比通道容量更重要。拥有持久私有笔记本的智能体受益于富余通道容量——并避免无状态智能体在高容量下的崩溃——取得最可靠的协调(容量=25时0.867±0.023)。无状态智能体在中等容量达到峰值——随后随词表增长超出滚动上下文窗口可追踪范围而退化。笔记本将学得的约定外置化——使智能体免于每轮重新推导编码。信息瓶颈式的论证预测最优容量等于对象数量——但事实上瓶颈点(容量=8)被证明是脆弱点——富余容量总体更好。我们表明单凭通道容量无法预测协调;记忆架构决定智能体能否把交互历史转化为稳定约定——理解信号如何成为语言需要两个维度。
