关系 知识蒸馏 使 DNN 表示足够接近人类，无需监督即可对齐

将深度神经网络 (DNN) 的内部表示与人类心理表示联系起来对于使用 DNN 作为人类视觉的计算模型非常重要。现有的 DNN 表示与人类心理表示仍然不够相似，人类心理表示无法直接观察，因此通常通过对象图像的大规模相似性判断来测量。缩小这一差距的一个自然方法是将人类表征的关系结构直接转移到 DNN 中，并且之前的研究报告了人类与 DNN 表征相似性的改进。然而，这种改进是否在更严格的评估下仍然存在，在两个方面尚未经过测试：个体-对象级别的细粒度对齐，以及从独立于训练数据的数据集导出的人类嵌入的泛化。在这里，我们采用了一种无监督比较方法，即 Gromov-Wasserstein 最佳传输 (GWOT)，该方法仅根据内部距离结构估计人类与 DNN 的对应关系，从而测试细粒度对齐。我们进一步评估与训练数据不重叠的概念测试集的泛化能力。我们证明，微调 使用关系型 知识蒸馏 (RKD)（一种已建立的关系转移方法）预训练 DNN，使 DNN 足够接近人类，以便在此测试集上在个体对象级别上进行对齐。我们还表明，这种改进是由更类似于人类的全局结构驱动的，正如粗类别之间的距离排序所反映的那样，而局部人类 DNN 最近邻重叠率基本保持不变。这些发现表明，来自人类的关系迁移使预训练 DNN 的全局结构足够接近人类结构，从而能够在没有监督的情况下实现细粒度的人类-DNN 对齐。