论文

从同理心到个性化同理心:针对个人用户调整同理心策略

From Empathy to Personalized Empathy: Adapting Empathetic Strategies to Individual Users

模型训练奖励建模与过程监督

摘要

随着大语言模型(LLM)越来越多地部署在与用户的长期交互中,同理心已成为越来越重要的能力。然而,现有研究忽视了用户的人格特质对长期互动过程中移情策略的影响。为了解决这一差距,我们引入了个性化同理心任务,其重点是根据用户历史记录中的个性化特征来调整同理心策略。为了研究和增强这种能力,我们构建了 PersonaEmp,这是一个基于长期用户与人工智能交互构建的个性化同理心数据集,具有丰富的用户历史、角色信息和寻求同理心的查询。我们进一步提出了 PereGRM,一种奖励建模框架,它将同理心评估结构与动态评估标准生成相结合,用于细粒度奖励建模。不同设置和多个判断模型的实验结果表明,PereGRM 始终实现了最强的性能改进,表明其在增强个性化共情能力方面的有效性。