论文
旁支信息如何污染临床笔记与语言模型推理
Incidental information contaminates patient notes and disrupts clinical reasoning in large language models
摘要
大语言模型 (LLM) 越来越依赖于支持环境文档和临床推理。在这里，我们通过评估这两个应用程序对患者遇到的附带信息的敏感性来检查这两个应用程序之间共享的故障模式的影响。在 576 场患者与临床医生的对话中，我们发现前沿模型在 35% 的笔记中插入了闲聊交流，而平均质量得分在五分制上最多变化了 0.20 分。在 3.7% 的前沿笔记中，模型错误地归因了旁白或临床上使用了它们。在 57 次模拟录制的咨询中，-10 dB 的单独患者遭遇的背景语音泄漏到 48.2% 的笔录中，在四个 开放权重 模型生成的下游笔记中检测到 5.3% 的污染。我们提出了 LLM 中临床推理和分心的双重编码假设，初步证据表明与偶然信息干扰相关的 LLM 组件也支持临床推理。这些发现支持在临床使用前评估对附带信息的抵抗力，并采取保护措施防止污染，同时保留临床推理。