论文
Toto 2.0:时间序列预测进入缩放时代
Toto 2.0: Time Series Forecasting Enters the Scaling Era
摘要
我们展示了时间序列基础模型的规模:单个训练配方可以将预测质量从 4M 参数提高到 2.5B 参数。我们发布了 Toto 2.0,这是一个由五个开放权重预测模型组成的家族,在此方案下进行了训练。 Toto 2.0 系列在三个预测基准上树立了新的最先进水平:BOOM,我们的可观察性基准; GIFT-Eval,标准通用基准;以及最近的抗污染 TIME 基准。本报告描述了我们的实验结果,并详细介绍了 Toto 2.0 背后的设计决策:其架构和训练配方、训练数据以及 u-muP 超参数传输管道。所有五个基本检查点均在 Apache 2.0 下发布。