论文

S$^3$AM:具有可靠性校准频率适配器的单流 SAM,用于多模式显着物体检测

S$^3$AM: A Single-Stream SAM with Reliability-Calibrated Frequency Adapter for Multi-modal Salient Object Detection

模型训练参数高效训练

摘要

视觉基础模型最近通过参数高效的调整和即时学习先进了多模态显着目标检测(MSOD)。然而,现有的适应分段任意模型(SAM)的MSOD方法通常依赖于双流编码器或辅助提示生成器,导致冗余计算。尽管单流替代方案可以降低此成本,但早期融合也可能会通过主干网传播噪声或未对准的辅助高频线索。在本文中,我们提出了一种新颖的单流框架,它将可靠性校准的频率自适应集成到 MSOD 采用的 SAM 主干中。它避免了重复的基础主干,同时明确控制辅助频率注入。具体来说,我们设计了一个混合频率专家模块,它使用平稳小波变换来分解每个模态并聚合跨模态频率信息。我们进一步引入了一种具有双门校准机制的可靠性校准频率适配器,它有选择地在 Transformer 级上传播校准残差,同时共同控制其注入强度和跨模式可靠性。然后,超网络引导的语义结构解码器将来自所采用主干的语义掩模特征与基于 Mamba 的结构细节恢复相结合。在 RGB-D、RGB-T 和 RGB-NIR 显着目标检测基准上的综合实验验证了所提出的框架仅用 1220 万个可训练参数即可实现有竞争力的性能,占总参数的 5.4%。该代码可在 https://github.com/xuboyue1999/SSSAM 获取。