论文
回声放大知识:经情绪向量再注入的语言模型躯体标记类似物
The Echo Amplifies the Knowledge: Somatic Marker Analogues in Language Models via Emotion Vector Re-Injection
摘要
当前的语言模型记忆系统存储发生的事情,但不存储它的感受。语义记忆(了解过去的事件)和情景记忆(重新体验它)之间的区别被图尔文认为是意念意识和自主意识之间的区别。达马西奥证明,拥有完整知识但缺乏情感标记的人类会表现出决策受损。我们弥补了语言模型的这一差距。使用 Gemma 3 1B-IT 和预训练的 Gemma Scope 2 稀疏自动编码器,我们在第 22 层识别出 310 个情感独有的特征以及心理上有效的几何形状。我们在体验过程中构建了独特的特征情感向量,并在回忆过程中部分地重新注入它们,由第 7 层的上下文相似性触发。我们测试了与 Damasio 框架平行的四个条件:A(无记忆)、B(语义标签)、C(情感回声)和 BC(语义 + 回声)。对于情感取向,仅回声就使威胁安全梯度变陡:上下文相似性威胁评级的回归斜率对于 C 为 0.80,而对于 A 为 0.56($p$=0.011,排列测试)。对于决策,回声将知识放大为行动:BC=80% 好的选择 vs B=52% ($z$=+2.60,$p$<0.01),而回声单独没有效果(C=22%,n.s.)。回声改变了模型独立的感觉,但只有在与知识结合时才能改变它的作用——复制达马西奥的核心发现。回声放大了知识。它不会取代它。
