论文
通过自回归序列模型处理和解释患者临床轨迹中缺失的模式
Handling and Interpreting Missing Modalities in Patient Clinical Trajectories via Autoregressive Sequence Modeling
摘要
开发医疗保健多模式机器学习 (ML) 模型的一个积极挑战是处理训练和部署期间缺失的模式。由于临床数据集在模态存在方面本质上是时间性的和稀疏的,因此通过诊断多模态 ML 模型捕获潜在的预测信号,同时保持模型的可解释性仍然是一个持续的挑战。在这项工作中,我们通过将临床诊断重新定义为自回归序列建模任务来解决这个问题,利用 大语言模型 (LLM) 的因果解码器来建模患者的多模态轨迹。我们首先引入一个缺失感知对比 预训练 目标,它将数据集中的多种模式与共享潜在空间中的缺失集成在一起。然后,我们表明,基于 Transformer 的架构的自回归序列建模优于 MIMIC-IV 和 eICU 微调 基准的基线。最后,我们使用可解释性技术来超越性能提升,并发现在不同的患者住院期间,删除模式会导致不同的行为,而我们的对比 预训练 可以减轻这种行为。通过将临床诊断抽象为序列建模并解释患者的住院轨迹,我们开发了一个框架来分析和处理缺失的模式,同时解决安全、透明的临床人工智能的典型需求。