论文
基于 LLM 的在线时间序列预测的组合谱提示
Compositional Spectral Prompts for LLM-based Online Time Series Forecasting
摘要
为了解决时间序列的顺序和演化性质,在线时间序列预测(OTSF)任务已在多个领域进行了广泛的研究。现有的研究重点是通过采用基于内存缓冲区的检索策略来适应非平稳环境。然而,我们观察到,此类框架难以长期适应,并且无法推广到看不见的模式。为此,我们引入了 CoSPOT,这是一个基于 LLM 的在线时间序列预测框架,该框架利用预先训练的 LLM 作为骨干在线预测器,其强大的少样本能力是其动力。为了实现高效的在线适应,CoSPOT 保持 LLM 冻结,并采用基于频域基础的成分谱提示来指导模型输入的整体分布,从而大大减少在线阶段更新的参数数量。具体来说,CoSPOT 将时间序列分解为频率基础,并根据其幅度组成相应的频谱基础提示,从而允许将未见过的模式表示为学习的基础提示的新组合。我们对真实数据集进行的广泛实验证明了 CoSPOT 在具有挑战性的在线场景中的优越性和实用性,包括扩展的在线阶段和具有大量分布变化的跨数据集设置。我们的代码可在 https://github.com/seungyoon-Choi/CoSPOT 获取。