相关式SSL蒸馏的噪声鲁棒机制修正

自监督学习（SSL）语音模型准确但庞大；知识蒸馏压缩它们，但学生失去教师的噪声鲁棒性。相关式蒸馏用两项应对：对学生与教师表示对齐的互相关，及对学生特征去相关的自相关。原方法与De HuBERT都在未分离的情况下把功劳归于自相关项。我们证明恰恰相反。在LibriSpeech-100蒸馏、留出CHiME-3噪声10dB下，无偏全维探针、Pearson方差分解、同噪声因果对照与逐维分析共同识别出互相关对角项是鼓励噪声不变性的机制——把噪声分类准确率从76.98%降到55.02%，而加回自相关项后仍为55.55%。自相关项实际是重组特征空间、改善干净下游任务准确率，但几乎不除噪。跨九个语音与音乐任务，这产生具体的蒸馏设计规则：为噪声鲁棒性加权互相关项，为更好的下游性能调自相关项，并独立采样教师与学生噪声。