论文

理解心理状态以引导多人群体对话中的社会影响

Understanding Mental States to Guide Social Influence in Multi-Person Group Dialogue

模型评测基准与评测资源

摘要

现有的动态心智理论(ToM)基准大多让语言模型处于被动角色:模型阅读一连串相互关联的场景,并报告随着这些状态变化人们相信、感受、打算与做什么。在真实社会互动中,ToM 还被用于行动:说话者计划说什么,以便把另一个人的心理状态轨迹推向某个目标。我们提出 SocialMindChange,一个从追踪心智转向在社交互动中改变心智的基准。每个实例定义一个包含 4 个角色与五个相连场景的社交情境。模型扮演其中一个角色,跨越五个场景生成对话以达成目标,同时与所有参与者不断演变的状态保持一致。SocialMindChange 还包含精选的高阶状态。使用结构化四步框架,我们构建了 1,200 个社交情境,覆盖 6000 个场景与超过 90,000 个问题,每个都经过真实性与质量校验。对十个最先进 LLM 的评估显示,其平均表现比人类低 54.2%。这一差距表明,当前 LLM 在长程、相互关联的互动中维持与改变心理状态表征仍然困难。

理解心理状态以引导多人群体对话中的社会影响
图1:主动性引导在四智能体设置中如何运作的简化示意图。