论文
KALEIDO:通过门控折叠几何进行时间序列预测的视觉模型的输入空间适应
KALEIDO: Input-Space Adaptation of a Vision Model for Time-Series Forecasting Through Gated Fold Geometries
摘要
时间序列基础模型购买具有大时间语料库的零样本预测;视觉模型不需要任何东西,因为自然图像隐式嵌入了预测者必须建模的模式,而 ImageNet 预训练的屏蔽自动编码器通过修复其渲染来预测序列。然而,渲染的系列并不是自然图像,缩小这一差距需要时间感知的适应。我们证明渲染几何体——系列如何折叠和绘制——是它的一个可控、可混合的轴。 Kaleido 检测主导周期,渲染一组由规则生成的折叠几何形状,仅在验证时将修复与每个位置的凸门拟合相结合,并将结果与固定份额的零样本输出融合,每个数据集的超参数都不会超出基线的已发布设置。 训练仅 LayerNorm (0.05%),Kaleido 相对于 LTSF 上发布的零样本基线降低了 13% 的 MSE,冻结后降低了 6.6%;在 GIFT-Eval 上,MASE 基线提高了 7.4%,CRPS 基线提高了 19.3%。
