安全和隐私提示：用户询问 LLM 以及 LLM 如何回应

大语言模型（LLM）广泛应用于满足用户的信息需求；用户向 LLM 询问天气、提出教育问题并向他们咨询法律援助。数字安全和隐私 (S&P) 是一个特别受到研究的领域，用户可能会寻求 LLM 的帮助，了解如何保护其在线帐户或保护其计算机免受网络攻击。据我们所知，之前没有研究收集或分析用户提出的标准普尔问题 LLM；先前对 LLM 响应质量的研究依赖于专家撰写的标准普尔误解或常见问题解答，而不是用户查询。我们的研究利用 WildChat（一个在野外收集的 320 万用户 LLM 对话数据集）识别出 14,727 个 S&P 提示，并将它们分为九个类别，涵盖广泛的 S&P 主题。根据 S&P 提示，我们抽取了 450 个样本并进行了主题分析，以表征用户提出的 S&P 问题 LLM。除了主题分析之外，我们还策划了 270 个寻求建议的 S&P 提示，用户可以在其中寻求建议、指导或具体的 S&P 信息。当向 LLM 提出 10 次提示时，我们测量了 LLM 的响应质量和一致性。我们发现商业 LLM 优于开放权重模型（GPT 5.5 在 98% 的提示上提供了“足够好”的响应；Llama 4 在 47% 的提示上提供了“足够好”的响应）。然而，在平均收到高质量响应的提示中，商业模型有时会在运行过程中产生矛盾的响应，从而存在使用户感到困惑或误导的风险。