论文
SOTER:可穿戴人体生理信号的生成时间序列基础模型
SOTER: A Generative Time-Series Foundation Model for Wearable Human Physiological Signals
摘要
时间序列基础模型已经证明了强大的跨域传输,但其常见的架构假设仍然与可穿戴生理信号不一致,这些信号是多通道、不规则采样、有噪声的,并且由跨越不同光谱尺度的耦合连续时间动态控制。我们提出了 SOTER,一种可穿戴生理时间序列的生成基础模型,它将跨通道耦合、频谱引导的专家专业化和连续时间潜在进化统一在一个预训练框架内。 SOTER 结合了一个对信号间依赖性进行建模的空间特征感知主干、一个功率谱密度 (PSD) 引导的专家混合层(通过可检查的非学习规则将表示路由到与固定频谱带相关的专家)以及一个支持任意时间戳预测和插补的神经控制微分方程解码器。我们在来自五个公共生理数据集的 2260 亿个时间点上预训练 SOTER,并在分布外零样本预测、冻结编码器线性探针分类和可穿戴基准上的连续时间插补中评估相同的预训练模型。 SOTER 在零样本预测中在 6 个数据集中的 4 个数据集上实现了最佳 RMSE,在 6 个数据集中的 5 个数据集上实现了最佳 MAE,在分类中实现了最高的平均 Macro-AUROC,并且在所有 6 个数据集上(缺失率为 75%)时实现了最低插补误差。它还对附加采集噪声保持鲁棒性,即使在最严重的损坏情况下,也能匹配或超过在干净输入上评估的基线。这些结果表明,可穿戴生理学的领域专用基础模型受益于通道结构、光谱尺度和连续时间动态的联合建模。