径向基函数网络作为自监督学习中的投影头

自监督学习（SSL）通常依赖于一个骨干编码器，后跟一个小型多层感知器（MLP）投影头，通常在训练后丢弃该投影头，而骨干质量是通过对标记数据进行昂贵的线性探测来评估的。我们认为这种包括丢弃投影仪的方法在计算上是相当浪费的。相反，我们建议用径向基函数网络（RBFN）替换 MLP 头，可以利用其可解释的中心和形状参数来判断表示质量，而无需标签或单独的分类器。为此，我们引入了尺度归一化分离（SNS），这是一种新颖的无标签质量度量，仅源自训练期间学习的内核中心和形状。通过五种规范的 SSL 架构（MoCo、SimCLR、BYOL、SwAV 和 SimSiam）和四个图像分类数据集，我们表明 RBFN 投影头是标准 MLP 投影仪的有竞争力的直接替代品。我们建议使用由高斯径向基函数激活的三个 RBF 层来构造它们。此外，SNS 与已建立的逻辑回归指标表现出很强到非常强的正相关性，这表明经过训练的 RBFN 投影仪可以充当骨干表示质量的可靠代理。我们还发布了一个基于 Google Open Images V7 的新型 PyTorch 兼容图像分类数据集，以促进对表示学习的可重复研究。