论文
EMBER：混合LLM架构中源于习得脉冲神经网络动力学的自主认知行为
EMBER: Autonomous Cognitive Behaviour from Learned Spiking Neural Network Dynamics in a Hybrid LLM Architecture
摘要
我们提出EMBER（Experience-Modulated Biologically-inspired Emergent Reasoning），一种混合认知架构，它重新组织了大语言模型（LLM）与记忆之间的关系：不是用检索工具增强LLM，而是将LLM作为一个可替换的推理引擎置于持久的、有生物学依据的联想基底之中。该架构以一个22万神经元的脉冲神经网络（SNN）为核心，具备脉冲时序依赖可塑性（STDP）、四层层级组织（感觉/概念/类别/元模式）、抑制性E/I平衡以及奖励调制学习。文本嵌入通过一种新颖的z分数标准化top-k群体编码写入SNN，该编码在构造上与维度无关，在不同嵌入维度间实现了82.2%的判别保持率。我们表明，空闲运行期间的STDP横向传播可以在没有外部提示或脚本触发器的情况下触发并塑造LLM的行为：SNN决定何时行动以及浮现哪些联想，而LLM选择动作类型并生成内容。在一个实例中，系统在8小时空闲期间习得的人-话题联想发生横向激活后，自主发起了与用户的联系。从零学习权重的全新状态出发，首次由SNN触发的动作仅在7轮对话交换（14条消息）后就出现了。