TimeEE：通过上下文学习进行端到端时间序列分类

时间序列分类 (TSC) 以两阶段范式为主：在目标数据集上从头开始训练特征编码器，或者通过在大型语料库上进行预训练，然后在顶部安装特定于任务的分类器。这种解耦虽然有效，但独立于分类目标优化了表示学习，需要按数据集进行训练，并防止模型在推理过程中利用标签信息。我们引入了 TimEE，这是一个通过上下文学习实现端到端 TSC 的 450 万参数基础模型。给定一个标记的支持集和一个查询时间序列，TimEE 在一次前向传递中直接输出预测的类分布，而不需要每个数据集的训练。遵循先验数据拟合网络 (PFN) 框架，TimEE 专门针对合成 TSC 任务进行元训练，其中每个任务都包含具有不同类别标识的时间序列，这些类别标识源自生成过程中的结构化分布变化。尽管在 预训练 期间没有看到实时序列，但在所有比较方法（包括基础模型和监督深度学习基线）中，TimEE 在 UCR 基准上的 ROC AUC 排名第一（准确度排名第三）。据我们所知，TimEE 是第一个在 UCR 基准上达到最先进性能的纯合成预训练模型。这些结果将具有合成先验的端到端 ICL 确立为 TSC 的一个引人注目的、很大程度上尚未探索的方向，其中扩展、先验设计和更丰富的生成机制作为改进的自然途径。代码可在 http://github.com/automl/timee 上公开获取。