论文

MorphCL:面向惯性活动识别的形态对比预训练

MorphCL: Morphological Contrastive Learning for Inertial-based Human Activity Recognition

模型训练模型评测应用与实践预训练模型能力评测机器人

摘要

尽管可穿戴和移动设备中的传感器无处不在,并且它们生成了大量的人体运动数据,但将未标记的记录转换为基础运动模型仍然是一个开放的挑战。自监督学习(SSL)减少了对昂贵注释的需求,但现有方法很大程度上未开发大规模运动数据的全局结构,依赖于随机采样批次和局部比较,这对于以固定、低方差行为为主的野外惯性数据来说尤其成问题。在这里,我们介绍形态对比学习 (MorphCL),这是一种自监督预训练框架,它使用结构感知分组将全局结构的显式建模注入基于惯性的 SSL 方法。基于运动分析的两个完善的支柱,即运动基元或基序的发现以及特定于域的特征描述符,我们表明 MorphCL 显着改善了学习编码器的线性探测和微调结果,F1 分数最高提高了 15 个百分点。与 与现有的基础模型相比,我们证明了 MorphCL 预训练的编码器在线性探测性能方面匹配或超越了它们的模型,同时在更少的数据上进行了 4600 倍的训练。对所得嵌入空间的定性分析进一步揭示了形态上有意义的簇结构,并改善了运动学上相似的活动类别的分离。

MorphCL:面向惯性活动识别的形态对比预训练:论文原图
图 1:形态对比学习 (MorphCL) 通过 (i) 从原始加速度计数据中发现重复出现的主题(红色),(ii) 将它们聚类到预训练语料库中的形态组中,(iii) 定义基于组的对比目标,以推动超越实例级比较的一致性,从而显式地模拟全局运动结构。