论文

WaveMoE:用于时间序列预测的小波增强专家混合基础模型

WaveMoE: A Wavelet-Enhanced Mixture-of-Experts Foundation Model for Time Series Forecasting

摘要

时间序列基础模型(TSFM)最近通过利用不同时间序列数据的大规模预训练在通用预测方面取得了显着的成功。作为对这一进展的补充,结合频域信息在增强复杂时间模式的建模方面产生了有希望的性能,例如现实世界时间序列中普遍存在的周期性和局部高频动态。为了推进这个方向,我们提出了一种新的视角,将显式频域表示集成到可扩展的基础模型中,并引入了 WaveMoE,一种用于时间序列预测的小波增强型专家混合基础模型。 WaveMoE 采用双路径架构,联合处理沿统一时间轴排列的时间序列标记和小波标记,并通过共享专家路由机制协调它们,从而实现一致的专家专业化,同时有效扩展模型容量。 16 个不同基准数据集的初步实验结果表明,WaveMoE 有潜力通过合并小波域语料库进一步提高预测性能。