论文

$t_0$:用于上下文预测的时间序列基础模型

$t_0$: A Time-Series Foundation Model for Forecasting with Context

应用与实践结构化分析、预测与决策

摘要

我们提出了 $t_0$,这是一系列用于在多变量背景下进行预测的开放权重基础模型。我们发布了它的前两个成员:$\texttt{t0-alpha}$和$\texttt{t0-beta}$,分别为102M和256M参数。两者都根据目标历史、过去的协变量和已知的未来协变量来进行预测,而无需针对特定任务进行再训练。他们的Transformer层随着时间和变量交替关注。他们通过分位数预测产生概率预测。预训练将精选的公共数据与构建为包含协变量与目标依赖性的合成生成器系列相结合。在 GIFT-Eval 上,$\texttt{t0-alpha}$ 的总 CRPS 为 0.4941,$\texttt{t0-beta}$ 的 CRPS 为 0.4738,MASE 为 0.6865,两者均排名第三,与最佳零样本 TSFM 相差 4.0% 以内。在 fev 替补席上,他们的技术得分为 42.2 分和 46.7 分,后者再次排名第三,落后领先者 2.0 分。我们深入分析$\texttt{t0-alpha}$。已知未来协变量将 30 项任务的技能提高了 6.3 个百分点。该报告还检查了其校准、长预测时域的滚动生成策略以及对缺失数据的稳健性。在维多利亚电力需求基准上,$\texttt{t0-beta}$ 是近一年背景下最准确的模型之一。在对 29 个月内每小时 ERCOT 价格进行的独立 Macrocosm 评估中,两者均将滞后价格基线的 MAE 降低了 38%。