论文
Fracast-0:跨尺度权重共享构建85K参数时序基础模型
Fracast-0: Fractal Weight Sharing for a Time Series Foundation Model with Only 85K Parameters
摘要
时间序列基础模型必须保留多域广度、概率输出和多个时间尺度,但当每个尺度接收单独的表示时,参数计数会增加。我们引入了 Fracast-0,这是一种概率预测基础模型,它利用时间自相似性来跨尺度重用一个算子。无参数检测器提取重要的季节性结构。编码器沿着具有尺度调节的几何膨胀梯应用共享局部块,而解码器将上下文收集的状态与明确的季节性未来状态相结合,并在发出九个分位数之前沿着另一个梯重用第二个块。跨六个语料库的预训练保留了 85,001 个参数内的多领域广度。在没有按数据集微调的 97 个 GIFT-Eval 配置中,Fracast-0 是 28 个评估检查点中最小的一个,并且在 MASE 0.808 和 WQL 0.564 的聚合参数精度平面中保持非主导状态。它使用的参数比 TinyCast 少 42.0%,而 TinyCast 的 MASE 和 WQL 分别低 4.2% 和 3.3%。这些结果支持跨尺度权重重用作为进一步时间序列基础模型压缩的实用途径。