下一token预测学习睡眠生理的可泛化表征

基础模型提供了一种将多模态生理信号压缩为人类健康的紧凑表示的有前途的途径，在睡眠医学、心脏病学、神经病学和其他医疗保健领域具有广泛的应用。现有模型通常是通过掩蔽重建或对比目标进行训练的。然而，掩蔽重建可能不太适合这些信号的随机性质，而对比方法依赖于正对定义，尽管对生理信号的语义不变性了解甚少。在这项工作中，我们证明了下一个词元预测是一种简单且可扩展的替代方案。我们开发了 Hypnos，这是一种多模态睡眠基础模型，使用从 20,000 多个夜间多导睡眠图记录中提取的八种不同传感模式（例如脑电图、心电图、呼吸信号）进行训练。我们使用残差向量量化将每种模态标记为离散标记流，然后训练一个大型自回归 RQ ​​转换器来并行联合预测所有模态的下一个标记。训练后，Hypnos 可以应用于来自支持模式的任何子集的连续传感器数据流，为下游任务生成嵌入。在一系列基准测试中，Hypnos 的性能显着优于现有的基础模型。在睡眠阶段分类中，我们在保留测试集上匹配强监督基线的性能，同时使用较少的标记数据（100倍）。 Hypnos 甚至推广到白天生理学，在检测心房颤动方面超越了专用的心电图基础模型。我们的结果表明，下一个标记预测是从多模态生理信号进行表示学习的强大自监督目标。