Chronicle：联合语言和时间序列理解的多模态基础模型

现实世界的时间序列带有文本：元数据、描述、新闻、报告。然而，时间序列基础模型是孤立地处理数字序列的，而试图将两者联系起来的多模态文本和时间序列模型都事后适应了预先训练的语言模型，继承了在没有看到时间数据的情况下形成的表示。这些模型几乎专门针对其他多模态基线进行评估，而不是针对任一领域中最强的单模态基础模型，因此是否需要联合训练尚不确定。我们推出 Chronicle，这是一款紧凑型 324M 参数解码器 Transformer，在单一统一架构中从头开始接受自然语言和时间序列训练。两种模式共享相同的 Transformer 块、注意力机制和残差流；大部分预训练使用单模态批次，因此跨模态能力纯粹来自共享参数，并有一个将两者交错的短对齐阶段。据我们所知，Chronicle 是第一个从头开始对文本和时间序列进行联合预训练的模型，也是第一个针对这两个领域的专用基础模型进行评估的多模态模型。它在 19 个 NLU 任务上与 Gemma-3-270M-PT 相匹配，为 24 个 UCR/UEA 数据集上的冻结嵌入时间序列分类树立了新的标准，并在 Time-MMD 上生成击败每个监督融合基线的多模态预测，所有这些都来自单个主干。