用于交通流预测的动态融合 大语言模型

交通流量预测是智能交通系统的核心支撑技术。它利用历史数据来推断特定区域未来的交通动态，从而有助于缓解拥堵并提高资源分配效率。传统神经网络由于依赖奇异特征建模而难以突破精度限制，而大语言模型（LLM）则面临空间拓扑信息捕获和时空相关性挖掘不足的问题。本研究提出了一种用于交通流预测的动态融合 大语言模型 (DF-LLM)。该模型包含三个核心组件：时空嵌入模块、时空融合模块和LLM主干。时空嵌入模块可以实现多尺度时空特征的协同表示。时空融合模块通过图卷积集成空间拓扑和动态依赖关系。 LLM骨干网采用差异化的参数自适应策略来平衡训练效率和流量数据适应性。此外，它还引入了上下文聚合注意力模块来加强全局依赖性。更重要的是，LLM 主干网采用剩余连接来减轻深度网络中的梯度消失。实验表明，通过比较所有四个数据集的指标，DF-LLM 取得了更好的性能。