嵌入偏差：文本条件独立检验的有效性边界

检验给定文本或图像Z时X与Y的条件独立性，通常以嵌入ψ(Z)代替Z作为条件。如果给定ψ(Z)后Z独立于X或Y，嵌入检验是有效的；但这一条件无法从数据确认，条件不成立时，零假设下的拒绝概率可能趋近于1。我们研究这一失效现象，并说明聚焦特定依赖形式可放宽嵌入必须保留的信息要求。对于受广义协方差测度启发的残差相关检验，有效性只要求E[X|Z]与E[Y|Z]中分别被E[X|ψ(Z)]与E[Y|ψ(Z)]遗漏的部分不相关。否则，我们把被丢弃的信息视为遗漏变量。在零假设下，偏差等于遗漏部分的绝对相关系数乘以两个偏R²值的几何平均。这一恒等式导出稳健检验：在声明的几何平均容差下保持有效；该容差类似敏感性参数，无法由数据识别。在合成数据和文本嵌入上，稳健检验近似保持名义显著性水平。对于语言模型生成的文本，即使精确的零假设成立，每种嵌入——甚至生成模型自身的状态——也会使嵌入检验产生偏差。