论文
神经表示中经过认证的拓扑相互作用:精确测试及其所需的统计数据
Certified Topological Interaction in Neural Representations: Exact Tests and the Statistic They Require
摘要
类解缠结(表示的类条件点云沿深度和过度训练的分离)是通过描述性曲线来衡量的:这样的研究想要写的句子,第 l+1 层比第 l 层更解缠结,是一个没有零值的眼球判断。我们为类重叠的拓扑测量提供推理层,即相交欧拉特征轮廓:作为尺度函数的云球联合重叠的欧拉特征,来自一次没有边界矩阵约简的 Alpha 复扫描。每个数字都带有一个测试——双向的精确排列测试、不变量所需的受保护的分离证书,以及用于比较声明的配对符号翻转测试。构建该测试给了我们一个超越这个不变量的教训:它的统计数据必须是无标度的。在以特征长度为单位的原始轮廓质量上,12,375 个配对测试返回 5,633 个重要步骤,其中第一个时期的每个步骤都指向错误的方向,证明特征规范动态是解开的;无量纲统计返回 2,707,减少 2,026。在 111 个网络和 52,650 个测量中,解缠是深度分级的且较早,并且交互商通过可混淆性 (rho=0.83) 对类对进行排序,与廉价的可分离性统计数据相当。在 96 模型阶乘中,增强是一种相对于机会来区分类别的训练选择。重量衰减压缩重叠而不分离。只有 k 倍统计量才能提出结构问题:在视觉编码器和冻结语言模型中,在 97% 的三层细胞和 99.5% 的深层细胞中,类三元组的联合纠缠位于其最强对之下,中值比率远低于测量的零层——这是一种规律,而不是法律。非归一化质量可以预测测试精度 (R^2=0.94),而商不能预测测试精度,而且两者都无法击败线性探针。