论文
MUSE:用于多元时间序列预测的冻结视觉骨干的依赖性感知适应
MUSE: Dependency-Aware Adaptation of a Frozen Vision Backbone for Multivariate Time Series Forecasting
摘要
多元时间序列预测对于许多实际应用至关重要。最近的大型视觉模型(LVM)通过将跨域视觉先验转移到时间序列预测,提供了一种有前途的范例。然而,现有的基于 LVM 的方法面临两个关键挑战:平衡独立视觉表示空间与跨变量依赖建模,以及使在自然图像上预训练的视觉主干适应时间序列图像的独特时间语义。为了应对这些挑战,我们提出了 MUSE,这是一个基于完全冻结的预训练 MAE 构建的依赖感知适应框架。首先,变量上下文细化模块(VCR)聚合每个变量内的共享时间信息,并对跨变量上下文依赖关系进行建模,同时保留独立的视觉空间。其次,时间周期细化模块(TPR)在不同编码器深度处执行轻量级细化,并显式地建模跨周期时间依赖性和周期内周期依赖性。这两个模块独立地产生预测,并通过可学习的预测级门进行融合。对 10 个真实世界数据集的实验表明,MUSE 实现了最先进的性能。