TiRex-2：将 TiRex 推广到多元数据和流媒体

我们引入了 TiRex-2，这是一种基于 xLSTM 的循环时间序列基础模型，它将单变量 TiRex 推广到具有过去和未来协变量的多变量预测。现实世界的预测本质上是顺序的：观察连续到达，变量共同演化，并且提前知道协变量的子集。现有的基于 Transformer 的时间序列基础模型捕获跨变量依赖性，但会导致上下文长度的二次复杂性，并且在新观测值到达时需要全历史重新计算。 TiRex-2 通过以内存为中心的循环设计解决了这些限制，该设计在流式传输下以恒定的每补丁成本运行。该模型将双向时间混合器与非对称分组注意变量混合器相结合，从而能够集成未来已知的协变量，同时保留目标变量的严格因果关系。据我们所知，这是第一个实现这种属性组合的时间序列基础模型。为了支持可扩展的多变量预训练，我们提出了一种合成耦合管道，可以从大型单变量语料库中动态组合不同的多变量样本。根据经验，TiRex-2 在 GIFT-Eval 和 fev-bench 上实现了最先进的零样本性能，在流式传输到任意上下文长度时保持稳定，并保持每个补丁的恒定推理成本。该模型在单变量模式下使用 3840 万个活动参数，另外还激活了 4410 万个用于多变量预测的参数。