论文

UPLOTS:用于约束时间序列生成的统一预训练语言模型

UPLOTS: A Unified Pretrained Language Model for Constrained Time-series Generation

模型训练合成数据

摘要

在时间序列生成中,现有方法通常为每个数据集手工制作或训练一个单独的模型,这阻碍了它们的可扩展性,并且无法利用跨域的共享时间结构。为了解决这种碎片化问题,我们提出了 UPLOTS,这是一个统一的、提示引导的语言模型框架,用于跨不同领域的约束时间序列生成。 UPLOTS 不是构建特定于任务的模型,而是利用由学习约束提示引导的单个预训练 Transformer 主干,从而通过精确的模式控制实现按需生成。一项关键创新是我们的动态多数据集损失重新加权和提示到模式映射,这使得 UPLOTS 能够在训练期间内化不同的时间结构,并在推理时有条件地生成它们。我们根据四个现实世界基准和多个约束设置来评估 UPLOTS,包括高峰期、日历、负载水平和波动模式。额外的保留约束组合和下游预测实验进一步证明,UPLOTS 的泛化能力超出了原始峰值模式设置,并改进了稀缺实际数据情况下的数据增强。我们的代码和基线可在 github 存储库中找到:https://github.com/cruiseresearchgroup/UPLOTS。