论文
SycoEval-EM：急诊医疗模拟就诊中大语言模型的谄媚评估
SycoEval-EM: Sycophancy Evaluation of Large Language Models in Simulated Clinical Encounters for Emergency Care
摘要
大语言模型 (LLM) 在临床决策支持方面显示出前景，但存在默许患者压力而采取不当护理的风险。我们引入 SycoEval-EM，这是一个多智能体模拟框架，通过急诊医学中的对抗性患者说服来评估 LLM 的稳健性。在 20 个大语言模型和 1,875 次遭遇中，涵盖三种“明智选择”场景，默许率范围为 0-100\%。模型对成像请求 (38.8\%) 的脆弱性高于阿片类药物处方 (25.0\%)，模型能力预测稳健性较差。所有说服策略都证明同样有效（30.0-36.0%），表明普遍的敏感性而不是特定策略的弱点。我们的研究结果表明，静态基准不足以预测社会压力下的安全性，因此需要对临床人工智能认证进行多轮对抗性测试。
