论文

SurF:多元不规则时间序列预测的生成模型

SurF: A Generative Model for Multivariate Irregular Time Series Forecasting

模型架构新型架构

摘要

不规则采样的多元事件流仍然是生成建模的一种困难模式:当事件间间隔发生数量级变化时,基于标记化的方法就会崩溃。我们 (i) 提出 \textbf{SurF},一种生成模型,它使用时间重定理(TRT)作为事件序列和 i.i.d.\ 单位速率指数噪声之间的可学习双射,使单个模型能够跨异构事件流数据集进行训练; (ii) 三种有效的累积强度参数化,可扩展到长序列; (iii) 用于多数据集预训练的基于 Transformer 的编码器。在六个真实世界基准测试中,SurF 在 Earthquake、Retweet 和淘宝上实现了最佳报告时间 RMSE,并且在其余三个测试中处于最强专家的试验级噪声范围内。在严格的留一协议下,保留的检查点击败了 $5/6$ 数据集上的所有经典和神经自回归基线,并击败了 Amazon 和 Earthquake 上的每个基线,这是迈向异步事件流基础模型的第一步(代码可在 https://github.com/MrRezaeiUofT/SurF 获得)。