论文
CSI-JEPA:以最少的监督实现无处不在的传感基金会表示
CSI-JEPA: Towards Foundation Representations for Ubiquitous Sensing with Minimal Supervision
摘要
信道状态信息 (CSI) 为人类和环境感知提供了广泛可用的感知模式,但现有的 CSI 感知模型通常依赖于特定于任务的监督训练,并且需要每个任务、设备、用户或环境的大量标记数据。这限制了它们在实际部署中的可扩展性,在实际部署中,未标记的 CSI 很丰富,但收集标记数据的成本很高。在本文中,我们提出了 CSI-JEPA,这是一种用于标签高效、多任务 Wi-Fi 传感的自监督预测表示学习框架。 CSI-JEPA 通过从可见上下文中预测屏蔽通道区域的潜在特征,从未标记的 CSI 样本中学习可重用的时间频谱表示。为了更好地匹配 CSI 的物理结构,CSI-JEPA 沿时间和子载波维度标记信道响应幅度窗口。然后,它引入了一种通道变化感知掩蔽策略,该策略从具有较强局部时间和子载波域变化的区域中对预测目标进行采样。预训练后,编码器被冻结并用作主干,并为下游传感任务添加轻量级特定于任务的适配器。我们在涵盖不同目标和部署设置的七项真实 Wi-Fi 传感任务上评估 CSI-JEPA。结果表明,CSI-JEPA 比竞争基准提高了下游传感性能,与最先进的受监督 Transformer 相比,平均准确度提高了 10.64 个百分点,并且匹配预算的标签节省高达 98.0%。