论文
情绪如何塑造LLM与智能体的行为:一项机制研究
How Emotion Shapes the Behavior of LLMs and Agents: A Mechanistic Study
摘要
情绪在人类认知与表现中扮演重要角色。受此启发,我们研究类似的情绪信号能否塑造大语言模型(LLM)与智能体的行为。现有的情绪感知研究主要将情绪视为表层的风格因素或感知目标,忽视了其在任务处理中的机制性作用。为解决这一局限,我们提出E-STEER,一个可解释的情绪引导框架,能够在LLM与智能体中实现直接的表征层面干预。它将情绪作为一种结构化、可控的变量嵌入隐藏状态,并借此考察情绪对客观推理、主观生成、安全性以及多步智能体行为的影响。结果揭示了与既有心理学理论一致的非单调情绪—行为关系,并表明特定情绪不仅能增强LLM能力,还能改善安全性,并系统性地塑造多步智能体行为。
