论文
柏拉图表征假说的收敛点是什么?结构胜于几何
What Converges in the Platonic Representation Hypothesis? Structure over Geometry
摘要
柏拉图表示假说表明,能力越来越强的模型会趋向于共享表示。最近的工作将这种说法缩小到共享的局部邻里关系,发现几个全局相似性度量中的容量依赖趋势在校准后基本上消失了。我们通过证明先前的局部-全局比较混淆了结构规模(局部与全局)与比较的内容来挑战这种解释:关系结构(由相关样本定义)与度量几何(由距离、相似性或相关性等定量关系表征)。为了理清这些因素,我们构建了一个受控的 $2\times2$ 框架,该框架在局部和全局尺度上评估关系结构和度量几何。我们引入 $H_0$ 骨架重叠作为相互 $k$ 最近邻居的全局对应物,以及匹配的距离感知变体。在视觉语言模型中,关系结构在校准后在两个尺度上表现出鲁棒的表征收敛,而日益严格的距离一致性大大削弱了对齐并逐渐使容量依赖的趋势变得平坦。我们通过评估黎曼度量近似下的距离一致性,进一步将分析扩展到环境欧几里德几何之外,并恢复相同的结构几何模式。该模式也以视频文本形式再现。总之,这些结果表明关系收敛超越局部邻域延伸到全局跨越结构,而度量几何表现出明显较弱的收敛。