论文
EMG-FM-Bench:肌电图基础模型迁移和适应的综合基准
EMG-FM-Bench: A Comprehensive Benchmark for Foundation Model Transfer and Adaptation on Electromyography
摘要
基础模型(FM)越来越多地被开发用于一般时间序列和生理信号,但它们向下游生理任务的可转移性仍然知之甚少。这个问题对于肌电图 (EMG) 来说尤其具有挑战性,因为肌电图的信号分布在用户、传感配置、采集硬件和下游任务之间存在很大差异。我们推出 EMG-FM-Bench,这是一个用于研究 EMG 基础模型迁移和适应的系统基准。 EMG-FM-Bench 统一了 20 个公共数据集和超过 100 万个 EMG 片段,并针对四个问题评估了 9 个预训练基础模型:预训练模型在冻结或完全微调时的表现如何、相较从头训练同一模型,预训练能带来多少帮助、模型如何推广到具有有限标记数据的新用户,以及不同 EMG 任务之间的性能变化。在整个基准测试中,线性探测提供了有关预训练表示的有用信息,但完整的微调可以显着改变下游 EMG 性能。将每个预训练模型与从头开始训练的相同模型进行比较表明,预训练的好处在不同模型之间存在很大差异,并且不具有普遍性。当在新用户上评估模型时,性能会下降,而五样本适应在70.2%的受评模型—数据集组合中提高了macro-F1,但仅恢复了部分损失的性能。模型性能在上肢和下肢分类之间高度一致,并且与连续 EMG 到文本解码保持密切相关。总之,这些结果提供了一个系统视图,显示预训练时间序列模型何时有效转移到 EMG,以及它们的性能如何取决于微调、用户变化和下游任务。
