论文
通用交通预测的多分辨率多域预训练框架
A Multi-Resolution Multi-Domain Pre-Training Framework for Universal Traffic Forecasting
摘要
时空交通数据是智能交通系统的核心,但其异构性给大规模建模带来了重大挑战。现有的预训练模型通常依赖同构建模范例来处理高度异构的流量数据。这种根本性的不匹配不仅限制了模型的泛化,而且还导致计算成本高昂且参数效率低下的设计。为此,我们提出了 FlexST,一种新颖的预训练框架,为流量建模引入了模块化和适应性。具体来说,我们首先提出了一种多分辨率时空扩散模块,该模块可以捕获短期波动和长期趋势,有效地协调具有不同时间和空间分辨率的输入。之后,我们构建了一个领域自适应专家混合体,将数据动态路由到专门的子网络,实现选择性知识转移,同时防止不同领域之间的负面干扰。此外,我们设计了一种统一的周期性编码策略,注入分辨率和领域感知的归纳偏差,以协调数据集中的周期性不一致。对 23 个真实世界交通数据集的大量实验表明,FlexST 在零样本和少样本设置中显着优于最先进的基线,展示了卓越的泛化性、适应性和效率。这项工作为构建能够处理城市交通系统的复杂性和可变性的通用预训练模型提供了新的方向。