论文

绘制 LLM 在追踪人类个性特征、社会人口统计学和社交媒体行为时如何辩论社会问题的图谱

Mapping how LLMs debate societal issues when shadowing human personality traits, sociodemographics and social media behavior

模型评测基准与评测资源

摘要

大语言模型 (LLM) 可以强烈塑造社交话语,但研究 LLM 输出如何在受控社交和情境提示下变化的数据集仍然很少。认知数字阴影 (CDS) 是一个包含 190,000 条记录的合成语料库,支持对 LLM 生成的话语进行分析。每条 CDS 记录均由 19 个 LLM 之一生成,提示跟踪人类角色或人工智能助手角色。 CDS 包含 LLM 对 4 个有争议的社会话题的回应:疫苗/医疗保健、社交媒体虚假信息、科学中的性别差距和 STEM 刻板印象。角色条件记录对 17 种社会人口学和心理属性进行编码,提供链接 LLM 提示、语言、立场和推理的数据。文本经过主题锚定验证,并且可以通过可解释的 NLP(例如文本形式网络)支持情感分析。 CDS 通过具有用户友好的仪表板的池化平台得到了丰富,可以对角色、主题和模型之间的情感和语义框架进行简单、交互式的组级比较。 CDS 提示框架支持未来对 LLM 偏见、社会敏感性和一致性的审计。