LLM能否从聊天记录中推断会话坐席用户的性格特征？

敏感信息，例如有关个人性格的知识，可能会被滥用来影响行为（例如，通过个性化消息传递）。为了评估可以在多大程度上从用户与基于 LLM 的会话代理 (CA) 的交互中推断出个人的个性，我们分析并量化了使用 CA 的相关隐私风险。我们从 N=668 名参与者那里收集了实际的 ChatGPT 日志，其中包含 62,090 条个人聊天记录，并报告有关不同类型的共享数据和用例的统计数据。我们对基于 RoBERTa 的文本分类模型进行了微调，以从 CA 交互中推断个性特征。研究结果表明，这些模型在多种情况下实现特征推断的准确性（三元分类）优于随机模型。例如，对于外向性，相对于人际关系和个人反思互动的基线，准确度提高了 44%。这项研究强调了与 CA 的交互如何带来隐私风险，并提供了对与不同类型交互相关的风险水平的细粒度见解。