Fisher-IRG：Fisher 引入的跨语言和视觉模型的局部不变表示几何

语义保留变换可以在学习表示中引起实质性运动，而微小的变化可能会强烈影响模型预测，从而提出一个基本问题：哪种局部度量最好地捕获语义上的相应变化？我们提出费舍尔诱导的不变表示几何（Fisher-IRG），它通过预测灵敏度来测量局部表示方向。围绕每个表示，我们构建语义保留和语义变化邻域，聚合它们的局部费舍尔信息，并通过对比广义特征值问题恢复不变方向。受控位移分析首先表明，类似的欧几里得运动可以产生截然不同的预测结果，支持了对预测几何的需求。在语言和视觉模型中，Fisher-IRG 产生更强的语义与干扰预测选择性，并且通常比基于协方差的几何更具可重复性的子空间，同时恢复系统地不同的局部方向。表示干预进一步将语义效应定位到费舍尔导出的子空间，并且保留的分离和检索表明恢复的几何形状泛化到发现邻域之外。这些结果支持 Fisher-IRG 作为表征局部不变表示几何的原则框架。