论文
FlowTSFM:将编码器深度转化为分位数传输
FlowTSFM: Turning Encoder Depth into Quantile Transport
摘要
基于编码器的时间序列基础模型(TSFM)通常依赖于独立参数化 Transformer 层的深层堆栈,其中仅监督最终预测,中间表示没有明确的预测作用。我们引入了 FlowTSFM,一种将深度解释为循环传输过程的编码器架构:单个 Transformer 块迭代地应用共享参数,而分位数流目标沿着规定的轨迹监督中间状态,从先验分布到最终预测。该目标将弹球预测损失与路径级位置匹配相结合。 FlowTSFM 仅使用 3880 万个参数,在 GIFT-Eval 和 TIME 上实现了具有竞争力的性能,保持在更强基线的 1.8-4.6% MASE 范围内,同时使用的参数比 12 层 Chronos-2 模型 (119.5M) 少约 3 倍。除了准确性之外,我们还引入了 CosMean,这是一种无标度诊断方法,用于测量周期性更新是否始终与最终预测一致。在匹配的中间状态探测协议下,FlowTSFM 的 CosMean 得分为 0.919,而 Chronos-2 的 CosMean 得分为 0.350,这表明循环参数共享与路径监督相结合,与更加结构化的预测轨迹相关,并且具有有利的准确性-效率权衡。