论文

时间序列基础模型基准是否隐藏了与制度相关的故障?交通速度预测的证据

Do Time Series Foundation Model Benchmarks Hide Regime-Dependent Failures? Evidence from Traffic Speed Forecasting

模型评测评测方法与指标

摘要

标准基准使用聚合指标评估时间序列基础模型 (TSFM),但这些可能掩盖关键操作机制中的严重故障。我们引入了制度分层评估,并将其应用于两个标准交通速度基准上的三个 TSFM。交通在自由流动和拥堵状态之间表现出突然的切换,在转换过程中产生双峰速度分布。当我们按交通状况分层时,准确性和预测间隔覆盖范围在转换过程中都会急剧下降:转换状况 MAE 达到 11 英里/小时(总体为 3 英里/小时),并且 90% 预测间隔的经验覆盖率下降至 55%。这些失败在聚合指标中是不可见的,因为自由流动观察在样本中占主导地位。简单的历史条件基线(从每个传感器训练分布中采样)比任何 TSFM 实现更好的转换覆盖范围,但总体精度要差得多。我们提出了双峰混合增强(BMA),这是一种将 TSFM 预测与历史分布知识相结合的事后方法,接​​近历史基线的转换覆盖范围,同时保持 TSFM 的准确性。我们的结果表明,TSFM 基准测试应该将机制感知评估纳入到聚合指标隐藏的表面故障中。