论文
WavesFM:纵向可穿戴传感器波形的分层表示学习
WavesFM: Hierarchical Representation Learning for Longitudinal Wearable Sensor Waveforms
摘要
可穿戴传感器能够在自由生活条件下连续采集高分辨率生理波形,例如光电体积描记法和加速度测量法。然而,由于高采样频率、多模式依赖性和极端序列长度(例如,数周的记录),再加上 真值 标签的稀缺,从这些信号推断与健康相关的表型面临着巨大的挑战。为了应对这些挑战,现有的自监督学习(SSL)方法通常遵循两种范式:(1)从短波形片段中学习丰富的形态表示,同时通过简单的聚合来瓦解纵向动态;或者(2)从跨越较长视野的粗略、手工特征(例如心率、步数)建模行为模式,但放弃原始波形中微妙的预测特征。为了弥补这一差距,我们提出了 WavesFM,这是一种利用两阶段 SSL 框架来处理纵向生理数据的基础模型。具体来说,我们将学习问题分解为两个阶段:首先,预训练分段级编码器以从短波形中提取局部嵌入;随后,训练时间编码器来对多日范围内这些嵌入的序列进行建模。这种分层方法克服了高分辨率、长序列数据的计算复杂性,使整个模型能够捕获局部信号语义以及控制生理动力学的复杂昼夜节律和日间变化。 WavesFM 在第一阶段超过 680 万小时(N=324k 人)的录音和第二阶段 530 万小时(N=10k)的录音中进行了预训练,在涵盖人口统计、生活方式、健康状况和药物的 58 项不同任务中表现出了卓越的性能。