论文
FedLLM:用于可解释流量预测的隐私保护联合 大语言模型
FedLLM: A Privacy-Preserving Federated Large Language Model for Explainable Traffic Flow Prediction
摘要
交通预测通过支持实时决策、拥堵管理和长期规划,在智能交通系统 (ITS) 中发挥着核心作用。然而,许多现有方法面临实际限制。大多数时空模型都是在集中数据上进行训练的,依赖于数字表示,并且提供有限的可解释性。最近的 大语言模型 (LLM) 方法提高了推理能力,但通常假设集中式数据可用性,并且不能完全捕获现实世界交通系统的分布式和异构性质。为了应对这些挑战,本研究提出了 FedLLM (Federated LLM),这是一种隐私保护的分布式框架,用于可解释的多水平短期交通流预测(15-60 分钟)。该框架引入了四个关键贡献:1) 用于数据驱动高速公路选择的综合选择评分 (CSS),可捕获跨交通区域的结构多样性;2) 域适应的 LLM,在编码空间、时间和统计上下文的结构化交通提示上进行微调;3) FedLLM 框架,支持跨异构客户端进行协作训练,同时仅交换轻量级 LoRA 适配器参数;4) 支持上下文推理和跨区域泛化的结构化提示表示。 FedLLM 设计允许每个客户从本地流量模式中学习,同时通过高效的参数交换、减少通信开销并保持数据私密性,为共享的全局模型做出贡献。此设置支持非 IID 流量分布下的学习。实验结果表明,FedLLM 比集中式基线提高了预测性能,同时产生结构化且可解释的输出。这些发现凸显了将 FL 与域适应的 LLM 相结合以实现可扩展、隐私意识和可解释的流量预测的潜力。