归一化选择对于因果大型时间序列模型重要吗？

用于时间序列预测的大型模型已成为异构信号集合训练模型的有前途的范例。这些模型通常依赖于因果自回归架构，其中每个观察结果都是根据过去顺序预测的。在实践中，现实世界的时间序列表现出非平稳性，这会显着影响预测性能。为了减轻这种情况，通常采用标准化。然而，在有效的因果环境中，它可能会导致训练过程中未来观察的信息泄漏。最近提出了解决这个问题的替代方案，包括因果标准化和根据初步观察计算的统计数据，但它们的实际影响仍然没有得到充分理解。在这项工作中，我们评估了基于 Transformer 的大型时间序列模型的标准化策略，这些模型通过修补和高效的因果策略进行训练。我们证明标准化选择会显着影响训练收敛和预测性能。