超越线性叠加：利用 KAN-SAE 发现 AI 天气模型中的气候特征

深度学习天气预报模型具有出色的预测能力，但在很大程度上仍然不透明：我们对它们内部如何表示物理气候现象知之甚少。通过稀疏自动编码器 (SAE) 的机械解释提供了分解这些表示的原则性途径，但现有的 SAE 假设严格线性特征叠加 - 这种约束不适合现代 Transformer 中编码的高度非线性大气动力学。我们引入了 KAN-SAE，一种稀疏自动编码器，其编码器用从 Kolmogorov-Arnold 网络 (KAN) 中提取的可学习的每特征 B 样条激活取代了标准 ReLU，允许每个潜在维度开发自己的非线性门控配置文件。应用于 Sonny 时，KAN-SAE 发现了 975 个活特征（相对于线性基线的 566 个活特征，提高了 72%），特征间冗余度降低了 20%，重建保真度相当。在没有任何气候监督的情况下，KAN-SAE 确定了一个可解释的欧洲热浪特征，该特征在空间上集中在西欧，并且通过因果转向实验证实了西太平洋台风跟踪器。我们的结果表明，非线性激活对于深度学习天气预报模型的机械解释至关重要，可以恢复线性基线不可见的气候特征。