论文
LATS:大语言模型 交通信号控制中多智能体强化学习辅助师生框架
LATS: Large Language Model Assisted Teacher-Student Framework for Multi-Agent Reinforcement Learning in Traffic Signal Control
摘要
自适应交通信号控制 (ATSC) 旨在通过实时调整交通灯来优化交通流量并最大限度地减少延误。多智能体强化学习 (MARL) 的最新进展为 ATSC 带来了希望,但现有方法仍然受到表示能力有限的影响,常常导致在复杂和动态的交通环境中性能不佳和泛化能力差。另一方面,大语言模型(LLM)擅长语义表示、推理和分析,但它们的幻觉倾向和推理速度慢往往阻碍了它们直接应用于决策任务。为了应对这些挑战,我们提出了一种名为 LATS 的新型学习范式,它集成了 LLM 和 MARL,利用前者强大的先验知识和归纳能力来增强后者的决策过程。具体来说,我们引入了一个即插即用的师生学习模块,其中经过训练的嵌入 LLM 充当教师,生成丰富的语义特征,捕获每个交叉口的拓扑结构和交通动态。然后,一个更简单的(学生)神经网络学习通过潜在空间中的 知识蒸馏 来模拟这些特征,从而使最终模型能够独立于 LLM 运行,以便在 RL 决策过程中的下游使用。这种集成显着增强了整个模型在不同交通场景中的表示能力,从而产生更高效和通用的控制策略。跨不同流量数据集的大量实验凭经验证明,我们的方法增强了 RL 模型的表示学习能力,从而比传统 RL 和仅 LLM 方法提高了整体性能和泛化能力。 [...]