论文
时间序列基础模型的因果分析
Causal Analysis for Time Series Foundation Models
摘要
从定制时间序列模型到时间序列基础模型的转变将模型和应用程序的关系从一对一变为一对多。这种转变引入了集中风险,因为许多潜在的高风险预测应用程序都面临着与单一时间序列基础模型相同的偏差和故障模式。同时,这种集中化可以实现模型开发和验证的规模经济。在本研究中,我们研究了如何在部署之前识别时间序列基础模型的偏差和故障模式。我们提出了一个因果分析框架来研究时间序列基础模型保留时间序列模式的能力。为了实现这一目标,我们对参数化合成时间序列生成器进行干预,并在其他条件不变的情况下测量模型输出的相应变化。我们将因果分析框架应用于 Chronos-2 和 TimesFM-2.5,并在六种不同的时间序列模式中测试它们。我们找到了趋势和谐波振荡模式的安全配置。结果还表明,两个模型都存在高估持久性的偏差,两个模型针对政权切换模式突然失败,而 TimesFM-2.5 针对能量释放模式失败。我们对这两个模型的原始作品的回顾表明,这些发现可以通过用于预训练的数据来解释。我们通过对进一步模型开发的建议、针对特定应用模型选择的建议以及对局限性和进一步研究方向的讨论来结束我们的研究。