论文
TestMate:轻量级视觉基础模型辅助的测试时间域适应
TestMate: Test-Time Domain Adaptation Aided by Lightweight Vision Foundation Model
摘要
测试时域适应 (TTDA) 旨在仅使用实时流式未标记测试数据使深度神经网络适应分布变化。当前的语义分割任务方法存在严重的局限性。熵最小化技术需要昂贵的反向传播,存在灾难性遗忘的风险并产生嘈杂的分割边界。内存库方法虽然无需反向传播,但适应性较慢,需要大量样本才能收敛,并且难以处理连续的域移位。我们推出 TestMate,这是一种新颖的、实时的、无反向传播的 TTDA 框架,可以克服这些问题。 TestMate 利用轻量级 Visual Foundation 模型的泛化能力来指导适应。我们使用基于 YOLOv8-seg 的零样本实例分割模型,实时为多个尺度的对象及其部分生成未标记的掩模建议。这些建议通过启发式、按尺寸排序的竞争方案与主要模型融合,其中小型、高置信度区域占主导地位,并细化周围较大、不太确定的区域的预测。这种无参数机制可以从第一帧开始立即适应,本质上避免了灾难性的遗忘,并有效地保留了精细的对象细节和边界,即使对于小对象也是如此。 TestMate 可以用作独立、高效的细化模块,也可以无缝集成到现有的 TTDA 方法中,以显着提高其性能。我们在两个基准数据集上展示了最先进的结果,证明了 TestMate 在三个不同的适应任务中的有效性:TTDA、无源域适应 (SFDA) 和在线 TTDA。代码可用。