论文

情境学习预测动态系统中的关键转变

In-context learning to predict critical transitions in dynamical systems

模型训练合成数据

摘要

关键转变——系统动力学中突然的、通常不可逆转的变化——在人类和自然系统中出现,通常会带来灾难性的后果。对这种变化的现实观察仍然很少,这阻碍了可靠的早期预警系统的发展。传统的统计和谱指标(例如增加方差)在有限数据和相关噪声的现实条件下往往会失败,而现有的深度学习分类器不会推断超出其训练数据分布。在这项工作中,我们介绍了 TipPFN,这是一种上下文学习 (ICL) 框架,它使用先验数据拟合网络来推断系统与关键转变的接近程度。 TipPFN 在我们新颖的合成数据生成器上进行训练,该生成器基于规范分叉场景以及多样化的随机随机动力学,可以灵活地利用各种规模、复杂性和维度的上下文。我们展示了对以前未见过的倾斜状态中关键转变的强大、最先进的早期检测、模拟到真实的例子以及 ICL 和零样本设置中的现实世界观察。