论文
将蝴蝶效应消灭在萌芽状态:用于自回归天气预报的自我输出 微调
Nipping the Butterfly Effect in the Bud: Self-Output Fine-Tuning for Autoregressive Weather Prediction
摘要
长视野天气预报是大气科学中的一项基本挑战,自回归深度学习天气预报(DLWP)已成为大气科学的主要范式。尽管自回归管道具有高度可扩展性和灵活性,但其预测误差在长期预测范围内会迅速增长。在这项工作中,我们从理论和实证的角度研究了这种误差增长现象。我们的分析表明,增长是由输出误差和输入分配变化之间的反馈循环驱动的。具体来说,自回归过程会放大较小的初始输出误差,从而逐渐破坏后续的输入分布,与大气科学中的蝴蝶效应相呼应,并最终降低较长时期内的预测精度。此外,我们表明这种分布变化起源于推理的最早阶段,早在第一个自回归步骤就可以检测到分布外特征。为了缓解这个问题,我们提出了 \textbf{自输出 微调 (SOFT)},这是一种即插即用策略,利用模型自己的一步预测来校准第一步遇到的有偏差的输入分布。大量实验表明,尽管 SOFT 很简单,但它在长期预测任务上实现了最先进的性能,并大大减少了预测误差和分布差异。 SOFT 的成功凸显了重新审视深度学习天气预报基本流程的重要性,代表了大气科学的关键进展。