论文
HEPA:时间序列的自监督水平条件事件预测架构
HEPA: A Self-Supervised Horizon-Conditioned Event Predictive Architecture for Time Series
摘要
多变量时间序列中的关键事件(从涡轮机故障到心律失常)需要准确的预测,但标记数据却很少,因为此类事件很少见且注释成本高昂。我们引入了基于两个关键原则的 HEPA(水平条件事件预测架构)。首先,因果 Transformer 编码器通过联合嵌入预测架构 (JEPA) 进行预训练:水平条件预测器学习预测未来表示而不是未来值,迫使编码器仅从未标记的数据中捕获可预测的时间动态。其次,我们冻结编码器并仅针对目标事件微调预测器,从而在范围内产生单调生存累积分布函数(CDF)。凭借跨所有基准的固定架构和优化器超参数,HEPA 可以处理水污染、网络攻击检测、波动情况以及 11 个域中的 8 种其他事件类型,在 14 个基准中的至少 10 个基准上超过了领先的时间序列架构,包括 PatchTST、iTransformer、MAE 和 Chronos-2,调整参数少了一个数量级,在生命周期数据集上,标记数据少了一个数量级。