论文

在 $μ$NPU 上实现实时心电图和肌电图建模

Towards Real-Time ECG and EMG Modeling on $μ$NPUs

模型优化端侧模型

摘要

神经处理单元 (NPU) 和其他低功耗加速器的小型化使其能够集成到微控制器规模的可穿戴硬件中,支持近实时、离线和隐私保护的推理。然而,在此类硬件上进行生理信号分析仍然不可行。最近基于 Transformer 的模型显示了最先进的性能,但对于资源和功率受限的硬件来说太大了,并且由于其动态注意力操作而与 $μ$NPU 不兼容。我们推出 PhysioLite,这是一种轻量级、兼容 NPU 的模型架构和训练框架,用于 ECG/EMG 信号分析。使用可学习的小波滤波器组、CPU 卸载的位置编码和硬件感知层设计,PhysioLite 的性能可与 ECG 和 EMG 基准上最先进的基于 Transformer 的基础模型相媲美,同时尺寸小于 10%($\sim$370KB,8 位量化)。我们还分析了 MAX78000 和 HX6538 WE2 $μ$NPU 上的组件延迟和资源消耗,展示了其在受限的电池供电硬件上进行信号分析的可行性。我们在以下网址发布了我们的模型和训练框架:https://github.com/j0shmillar/physiolite。