论文
LLM 中的价唤醒子空间:圆形情感几何和多行为控制
Valence-Arousal Subspace in LLMs: Circular Emotion Geometry and Multi-Behavioral Control
摘要
我们证明 LLM 中的情感向量是由呈现圆形几何形状的二维价唤醒 (VA) 子空间组织的。通过主成分分解和岭回归,我们恢复了情感引导向量背后有意义的 VA 轴,这些向量的投影与 44,728 个单词的人类情感评级相关。沿着这些轴进行引导可以对生成文本的情感属性进行单调控制,并进一步从单个子空间提供对多个下游行为(拒绝和阿谀奉承)的双向控制。这些效应在 Llama-3.1-8B、Qwen3-8B 和 Qwen3-14B 中复制。我们提出词汇中介来解释为什么这些效果和先前的情感框架控制起作用:拒绝和服从词元占据不同的 VA 区域,并且 VA 控制直接调节它们的排放概率。