无线基础模型异构下游自适应的轻量级自适应特征组合

移动系统越来越依赖异构学习支持的无线功能，为此单独的任务特定模型会产生冗余的训练和模型管理开销。无线基础模型 (WFM) 使这些功能能够共享预训练的主干网，但现有的调整要么根据任务更新主干网，要么依赖于不灵活的最终层表示。我们观察到中间 WFM 层表现出明显的依赖于深度的相关结构。基于这一观察，我们提出了一种用于特征组合的路由适配器（RAFC），它将选定的隐藏状态总结为紧凑的描述符，生成与任务和样本相关的路由权重，并结合原始的全分辨率特征而不更新预训练的主干。它的收益来自于让每个任务能够自适应地访问多个深度的互补表示，而不是将其限制在最后一层。跨四个任务类别和三个 WFM 主干的实验表明，每个评估的主干任务对都有所改进，四个任务类别的平均相对增益范围为 2.9% 到 35.9%，而 RAFC 在评估的主干上仅添加了 0.003M-0.049M 可训练参数。便携式软件定义无线电测试台上的实验进一步证明了端到端接收器鲁棒性的提高，特别是在部分频带同信道干扰下。这些结果将 RAFC 确立为移动系统中 WFM 的轻量级、模型无关且可解释的适配接口。