论文
时间序列分类上多对一 预训练 的自适应输入训练
ADAPTive Input Training for Many-to-One Pre-Training on Time-Series Classification
摘要
最近关于时间序列模型的工作利用自我监督训练来学习有意义的特征和模式,以提高下游任务的性能并推广到看不见的模式。虽然这些预训练方法在一对多场景中显示出了巨大的前景,其中模型在一个数据集上进行预训练并在下游数据集上进行微调,但当在 预训练 期间添加更多数据集时,它们很难推广到新数据集。这是为时间序列数据构建基础模型的一个基本挑战,因为它限制了开发可以从各种可用数据集中学习的模型的能力。为了应对这一挑战,我们提出了一种新的时间序列数据 预训练 范例,称为 ADAPT,它可以有效地对齐时间序列域中数据的物理属性,从而实现混合批量 预训练,尽管 预训练 数据的输入大小和通道尺寸存在极大差异。我们对 162 个时间序列分类数据集进行了训练,并为分类基准设置了新的最先进性能。我们成功地在各种数据集上同时训练了时间序列域内的模型,这是在时间序列域中构建通用基础模型的主要构建块。