与生活经验保持一致：心理健康支持生成中微调的异质性好处

由于获得专业心理保健的机会仍然有限，许多人转向 Reddit 等在线平台，在人类生活经验中寻求同伴支持。然而，此类查询的很大一部分没有得到答复，这为使用大型语言模型 (LLM) 来填补这一空白提供了机会。虽然大语言模型在临床基准上表现出了强劲的表现，但他们提供生活经验丰富和社区一致的同行支持的能力尚未得到充分探索。为了解决这一差距，我们引入了以社区为中心的同伴参与支持（COPES）数据集和三轴评估框架，以评估大语言模型与社区观点与心理健康支持寻求查询的一致性。通过评估零样本和后训练（SFT 和 DPO）模型，我们发现 COPES 的后训练显着改善了策略一致性（通用模型>50%）以及情感和语气的一致性。然而，我们还观察到，此类改进是异构的，并且对齐改进在子版块和所要求的应对策略之间存在显着差异。此外，训练后会引起分布变化，严重偏向以问题为中心的建议，同时抑制以情绪为中心的策略。总之，这项工作表明，虽然整理社区驱动的数据可以提高大语言模型响应的一致性，但模型的性能在不同的子社区和特定的心理健康需求之间仍然存在差异。