论文

正态约束学习:采用基础模型进行时间序列异常检测

Normality Constraint Learning: Adapting Foundation Models for Time Series Anomaly Detection

模型训练参数高效训练

摘要

时间序列基础模型 (TSFM) 通过学习在训练之前的大规模时间序列中重建或预测广泛的时间模式,实现了强大的泛化能力。然而,这种优势可能成为异常检测的弱点:TSFM 可以像正常模式一样有效地对罕见的异常模式进行建模,从而允许准确地重建或预测异常,从而减少其基于重建/预测误差的异常分数。本文提出了 $\underline{\textbf{N}}$$\textbf{ormality}$ $\underline{\textbf{C}}$$\textbf{onstraint}$ $\underline{\textbf{L}}$$\textbf{earning}$ ($\textbf{NCL}$),这是一种轻量级的即插即用框架,可采用预训练的 TSFM 进行准确的异常检测,而无需修改其预训练的参数。我们的主要见解是将 TSFM 的广泛模式空间限制为目标时间序列的正常结构,防止其广泛的建模能力掩盖异常偏差。具体来说,NCL 从一些正态面片特征构建一个紧凑的正态子空间,并在形成紧凑和有区别的正态流形的对比约束的指导下,自适应地将每个面片特征引导向该子空间内的正态性。校准后的特征被聚合以增强正常成分,并与原始 TSFM 输出融合,放大正常和异常观察之间的差异,以进行基于误差的重建/预测异常评分。跨不同 TSFM 系列和基准的大量实验表明,NCL 不断提高异常检测性能,为使 TSFM 适应异常检测提供了一个通用框架。

正态约束学习:采用基础模型进行时间序列异常检测的原论文方法或结果图
图 2:NCL 概述。 \small{1}⃝ 给定少样本正态训练子序列,使用冻结的 TSFM 来提取其补丁特征 $\mathbf{Z}$,在此基础上 NormSpace 通过 SVD 构造 $k$ 主方向的正态子空间。 \small{2}⃝ 然后训练 PatchNT,将每个特征沿每个主方向执行补丁自适应变换到可学习的正态流形上。 \small{3}⃝ ConNC 被进一步利用,通过约束它们的分布紧密聚集在正常原型 $\{\mathbf{c}_{i}\}_{i=1}^{k}$ 周围来校准转换后的特征。最后,将这些校准后的特征与原始 TSFM 输出进行综合,以放大正常数据和异常数据之间的误差差异。