有指导的预测：时间序列预测的表示级监督

如今，时间序列预测主要通过使用基于误差的目标对深度学习架构进行端到端训练来实现。虽然这可以有效地最小化平均损失，但它会鼓励编码器丢弃信息丰富但极端的模式。这会导致平滑的预测和时间表示，但很难捕捉到显着的动态。为了解决这个问题，我们提出了 ReGuider，这是一种可以无缝集成到任何预测架构中的插件方法。 ReGuider 利用预训练的时间序列基础模型作为语义教师。在训练过程中，输入序列由目标预测模型和预训练模型一起处理。我们不是直接使用预训练模型的输出，而是提取其富含时间和语义信息的中间嵌入，并通过表示级监督将它们与目标模型的编码器嵌入对齐。这种对齐过程使编码器能够学习更具表现力的时间表示，从而提高下游预测的准确性。跨不同数据集和架构的广泛实验表明，我们的 ReGuider 不断提高预测性能，证实了其有效性和多功能性。