PrivacyReasoner：LLM能模拟类人的隐私心智吗？

摘要

本文介绍了 PRA，这是一种人工智能代理设计，用于模拟个人用户如何响应现实世界的新闻而形成隐私问题。 PRA 超越了人口层面的情感分析，整合了隐私和认知理论，以模拟基于个人评论历史和上下文线索的特定于用户的隐私推理。该代理重建每个用户的“隐私思维”，通过模拟有限理性的上下文过滤器动态激活相关隐私记忆，并生成反映用户可能如何响应新隐私场景的综合评论。一个补充性的大语言模型法官评估器，根据既定的隐私问题分类法进行校准，量化生成推理的可信度。对现实世界黑客新闻讨论的实验表明，\PRA 在隐私问题预测方面优于基线代理，并捕获跨领域（包括人工智能、电子商务和医疗保健）的可转移推理模式。

PrivacyReasoner：LLM能模拟类人的隐私心智吗？ — 图1：PrivacyReasoner \mathrm{PrivacyReasoner} 工作流总览，该智能体旨在模拟个体对隐私相关事件的反应方式。这些事件使用技术论坛 Hacker News 上的讨论来模拟。智能体的隐私记忆由两个组件构建：(1) 用户的历史评论，作为构建智能体画像的原始基底；(2) 帖子上下文，包括帖子标题、正文与帖子发起者 ID 等元数据。在该记忆的条件下，智能体采用上下文过滤器选择性地激活相关的隐私倾向，并生成模拟用户可能回应的合成评论。随后，合成评论与真实评论都交由 Privacy Concern Judge（隐私担忧评判器）评估，其利用已有的隐私担忧分类体系与人工标注的访谈数据来评估担忧程度的一致性。