通过屏蔽潜在注意力的心脏时间序列基础模型

心电图 (ECG) 是最广泛使用的临床信号之一，在心血管诊断中发挥着核心作用。虽然最近的基础模型（FM）已显示出学习可转移心电图表示的希望，但大多数现有的预训练方法将导联视为独立通道，并且无法明确利用其强大的结构冗余。我们引入了潜在注意屏蔽自动编码器（LAMAE）FM，它通过在自监督预训练期间学习交叉引线连接机制来直接利用这种结构。我们的方法通过潜在注意力对线索之间的高阶交互进行建模，从而实现排列不变的聚合和线索特定表示的自适应加权。我们在 Mimic-IV-ECG 数据库上提供了经验证据，证明利用跨导联连接构成了结构监督的有效形式，提高了表示质量和可转移性。我们的方法在预测 ICD-10 代码方面表现出强大的性能，优于独立引线掩码建模和基于对齐的基线。