Med-HEAL：通过幻觉感知情境学习来分析和减轻医学 LLM 中的幻觉

医学 大语言模型 (LLM) 中的幻觉对临床决策支持构成严重风险，特别是当模型必须对复杂的电子健康记录 (EHR) 进行推理时。然而，现有的基准通常缺乏现实的临床背景，并且对如何在实践中减轻幻觉提供的见解有限。我们介绍 Med-HEAL，这是一个使用临床数据系统地识别、分析和减轻医学 LLM 中的幻觉的框架。基于源自 MIMIC-IV 出院摘要的 EHRNoteQA 基准，我们通过在开放式临床问答任务上评估 BioMistral-7B 来构建幻觉数据集。模型输出通过双重评估管道进行标记，该管道将 LLM 作为法官评估 (GPT-4o) 与医学生审阅者的人工审核相结合，通过基于网络的自定义评估系统生成正确性判断和推理错误注释。然后，我们利用该数据集来研究缓解策略：自我批评管道，其中测试模型审查自己的答案以检测潜在错误并重新生成标记案例的响应，以及检索增强上下文学习（RA-ICL），它将模型暴露给幻觉和纠正的示例。五个开源 LLM-BioMistral、Llama-3.1、DeepSeek、Qwen2.5 和 Qwen3 的实验表明，自我批评策略提高了五个模型中三个模型的准确性 (p < 0.05)，而无需更新参数。 Med-HEAL 提供了可重复使用的幻觉数据集和用于研究和减轻医学 LLM 幻觉的实用框架，支持人工智能系统在临床环境中更安全的部署。我们的代码和数据可在 https://github.com/yimingliao-blad/med-heal.git 上公开获取。