PORTER：便携式结构化 EHR 基础模型的基于语言的事件表示

大多数电子健康记录 (EHR) 基础模型将临床事件编码为来自固定词汇的离散事件标记，因此不能直接表示包含未见概念或概念和属性（例如数值）的新组合的事件。这限制了跨机构甚至同一机构内跨部署管道的传输。我们引入了 PORTER，一种基于语言的结构化 EHR 基础模型，它将事件表示与固定词汇分离。 PORTER 使用冻结文本编码器通过描述来表示事件，通过专用路径集成数值，并通过自回归预训练时间主干学习患者时间轴上的临床动态。在儿科医院的 74 项临床预测任务中，PORTER 与具有相同时间主干和预训练目标的固定词汇模型的平均 AUROC 相匹配。当使用预训练期间未见的事件描述呈现相同的患者时间线时，PORTER 无需重新训练或词汇映射即可进行迁移，恢复了直接在目标词汇上训练的模型的平均 AUROC 的 97.1%。当转移到 MIMIC 时，PORTER 的表现优于固定词汇模型，该模型丢弃了 69% 的事件，因为它们的标记是看不见的。机制分析表明，跨词汇转移跟踪患者级表示几何形状的保存，而不是文本编码器的比例，并且数字路径提高了对幅度的敏感性，而不会破坏临床概念的一致性。与特定于任务的文本序列化比较器相比，PORTER 还实现了更高的 AUROC，摊销计算量低了 329 倍。 PORTER 是迈向独立于词汇的 EHR 基础模型的一步，该模型减少了词汇协调的需求，同时保留了域内性能并实现了高效的跨任务重用。