论文

EarlyDx:以入院时点锚定的急诊诊断开放生成基准

EarlyDx: An Admission-Anchored Benchmark for Open-Ended Generation of Evidence-Supported ED-Encounter Diagnoses

模型评测基准与评测资源

摘要

临床诊断必须在有限、不完整的证据下,在医院入院时迅速作出。现有的诊断预测基准不适合这种设置:它们限制预测到封闭的代码集,排除自由文本记录,并在出院诊断中监督,这些诊断包含了整个住院期间的全部信息。我们引入EarlyDx,这是一个开放式的早期诊断基准,从MIMIC-IV中的154,834急诊室会诊记录中构建。每个会诊记录仅在入院时间$t_0$时被限制,并由急诊室记录中的诊断进行监督,而不是在出院时。一个LLM审计员进一步验证每项自由文本标签,将其分为支持、部分支持或不支持证据。在一种语义LLM作为法官的协议下,没有被评估的系统——前沿的、医学专业的、或在训练后专门的——可靠地合成入院时间的证据。零样本模型主要通过提取来评分,仅恢复了3-31%必须从记录中推断出的诊断;后训练提高了推理依赖的召回率至56%,但仍存在一个较大的差距,且在时间紧迫的条件下,没有系统达到临床平衡的敏感性和精确性。我们在这里公开了完整的构建和评估管道。

EarlyDx:以入院时点锚定的急诊诊断开放生成基准:论文配图
图2:EarlyDx 框架概览。基于 MIMIC-IV 急诊就诊记录,构建以入院为锚点的早期诊疗输入,截断时点为 t₀+W;主基准取 W=0,即入院时刻 t₀。将自由文本诊断标签核验为有证据支撑的类别,为完全或部分有依据的案例生成以标准答案为条件的思维链监督,划分有证据支撑的数据集,并通过语义化的大语言模型评审匹配来评估零样本与后训练模型。