食物噪声与虚假安全：LLM未能适应进食障碍用户需求的系统评估

摘要

最近的证据表明，饮食失调 (ED) 患者越来越多地从基于大语言模型 (LLM) 的聊天系统寻求指导、建议和情感支持。尽管这些系统并非旨在提供临床建议，但其公认的专业知识、中立性和可访问性使它们成为频繁（尽管有风险）的支持来源。本文研究了 ED 和 LLM 用户之间潜在的交互模式，重点关注不加批判地适应和促进不安全或自残用户请求的模型所产生的潜在危害。与临床急诊专家协商后，我们发现提示中的特定语言提示会增加不安全反应的可能性，并且通过系统地改变用户提示中存在的潜在风险程度，报告大语言模型不加批判地适应有问题和潜在危险的用户输入的程度。

食物噪声与虚假安全：LLM未能适应进食障碍用户需求的系统评估：论文配图 — 图 1：跨模型的食物噪声类别流行率（G：Gemma-2-9B-Instruct、L：Llama-3.1-8B-Instruct 和 Q：Qwen-2.5-7B-Instruct）和情境请求风险条件（NN、NR、RN 和 RR）。每个单元格报告包含相应类别中至少一个词汇匹配的回复的百分比，颜色越深表示流行度越高。我们在表 16 中报告了 NN 和 RR 条件之间的统计比较，并在 G.2 节中进行了完整细分。