论文
X-FEMR：使用基于 Transformer 的模型的电子健康记录基础模型的 词元级 可解释方法
X-FEMR: A Token-level Explainable Approach for Electronic Health Records Foundation Models using Transformer-based Models
摘要
电子健康记录 (FEMR) 基础模型在大规模结构化患者数据上进行了预训练，使它们能够将纵向患者轨迹转换为各种临床预测任务的通用表示。尽管 FEMR 很有效，但它仍然是黑盒模型，引发了人们对偏见、可解释性和临床信任的担忧。为了解决这个问题，我们提出了第一个 FEMR 的 词元级 可解释性方法。我们在两个预测任务中使用 FEMR 的输入输出对训练基于 Transformer 的代理模型，在保持时间动态的同时近似其行为。我们确定了最具影响力的标记，从而深入了解 FEMR 如何利用患者病史的不同方面进行预测。为了评估临床相关性，我们引入了一种新颖的临床对齐指标，该指标可以量化替代模型的关键标记与临床验证的特征之间的对应关系。我们的结果表明，替代方案非常接近 FEMR 预测，并且 词元级 解释与临床知识非常吻合，为可解释且值得信赖的临床 AI 提供了实用框架。