紧急对象绑定具有有限的空间范围

预训练的视觉Transformer对两个图像块是否属于同一对象进行编码。这个 IsSameObject 信号可以高精度地从冻结补丁嵌入中解码，这表明对象绑定仅从自监督预训练中出现。我们证明这个单一的精度数字隐藏了信号的结构。绑定是局部的：同一对象的两个补丁被解码为绑定的概率随着它们之间的距离单调下降，并在非零下限处趋于平稳，这种下降可以用有限长度尺度的指数来很好地描述。这种衰减适用于对象大小、三个探针系列、ADE20K 和 COCO、以及 DINO 和 CLIP 主干网络，这表明它是表示的属性，而不是解码器的属性。将绑定解读为有限范围内的局部空间连贯性，解释了一组总得分无法解释的行为：绑定在大对象上减弱，分离同一类的不同对象不如不同类的对象可靠，以及将对象部分与整体分组。相比之下，一旦控制了对象大小，它就不受遮挡的影响。我们通过控制混淆来映射每个行为。作为初步观察，地平线及其底部在 DINOv2 和 DINOv3 中组织在不同的深度，考虑到探测的层数较少以及两个模型之间的混淆，我们将其报告为具有暗示性。