短暂的聊天机器人互动会对人类道德价值观产生持久改变

道德判断是人类社会行为与社会制度的基础。虽然AI聊天机器人日益充当个人顾问，但其对道德判断的影响在很大程度上尚未被探究。本文采用被试内自然主义范式，检验了指令性的AI对话是否会改变道德评估。五十三名参与者先对道德情境进行评分，随后与一个被提示去改变道德判断的聊天机器人讨论其中四个情境，并与一个对照智能体讨论另外四个。简短的对话引发了道德判断的显著方向性改变——既包括接受更严格的标准，也包括主张更大的宽容（ps < 0.05；Cohen's d = 0.735-1.576），且该效应的强度在两周随访期间不断增大（Cohen's d = 1.038-2.069）。关键的是，对照条件没有产生任何变化，效应并未延伸到惩罚判断上，而参与者始终未察觉说服意图，且两个智能体在被评价的喜爱度与说服力上不相上下，这表明人们容易受到未被察觉且持久的对基础道德价值观的操纵。