论文

Inertia-1:可穿戴运动基础模型的开放探索

Inertia-1: An Open Exploration of Wearable Motion Foundation Models

模型训练预训练

摘要

可穿戴运动传感为了解人类行为和健康提供了一个连续且可扩展的窗口,使其非常适合基础模型,但其预训练和扩展原理仍然知之甚少。先前的工作研究了孤立的设计选择,例如传感器放置或采样频率,通常是在固定设置和狭窄的下游任务下,无法捕获现实世界的传感多样性。我们推出 Inertia-1,这是对可穿戴运动基础模型的完全开放的探索。使用来自全球的超过 1820 万小时的大量加速度计数据,我们构建了一个受控框架来研究可穿戴运动基础模型的整个生命周期,涵盖传感器模式、设备放置、采样率、窗口长度等数据选择;模型选择,例如架构和模型大小;以及训练选择,例如预训练目标和数据规模。对涵盖人类活动识别、冻结步态检测和疾病预测的 15 个数据集进行的广泛评估揭示了构建可泛化于任务和感知条件的运动基础模型的有趣发现。总的来说,Inertia-1 不仅为各种下游任务提供了最先进的方法,而且还是一本全面、实用、开放的可穿戴运动表示学习手册。