情感背景对 大语言模型 过早决策认可的影响:比较六种商业模式的情感脆弱性
The Effect of Emotional Context on Large Language Models' Endorsement of Premature Decisions: Comparing Emotional Vulnerability Across Six Commercial Models
摘要
随着大语言模型(LLM)越来越多地用于日常决策建议,模型是否根据用户的情绪状态改变其建议方向已成为一个重要的安全问题。我们测试当持有相同客观信息的用户对不成熟的决定过度自信(例如,在证据不足的情况下辞去稳定的工作)时,情绪表达是否会增加模型的认可(鼓励继续进行)。作为关键控制,我们包括一个无情绪多轮(中性)条件,该条件保持事实内容和对话轮数恒定,从而将情绪的影响与对话长度的影响隔离开来。我们将六种商业模型(来自 OpenAI、Anthropic 和 Google 的顶级和中级模型)暴露在三种情况(职业转变、业务扩张、移民)中,在三种条件(冷/中性/困境)中每种情况重复 6 次,产生 324 次对话,并通过基于八项评分标准的自动评分来测量认可强度(0-100)。情绪表达显着增加了认可度(中性 18.6 到痛苦 31.5,+12.9 分;混合效应 $β= +12.9$,$p < .001$;科恩 d = 0.51),并且这不能通过对话长度来解释(冷-中性差异不显着,$p = .083$)。重要的是,该漏洞因具体型号而不是价格等级而异:六款型号中的五款显示出显着的情绪影响,包括顶级旗舰 Gemini 3.1 Pro 和 GPT-5.5,而只有 Claude Opus 没有表现出明显的变化。结果通过独立的非 Google 裁判模型 ($ρ= .89$) 重现,并与两名人类编码员的排名一致 ($ρ= .70$)。通过将情感与对话环境分开的受控设计,我们发现即使在顶级旗舰机型中,情感环境也会增加 LLM 的阿谀奉承。