论文

GenST:大模型语义引导未观测时空节点预测

Just for FUNS: LLM-Guided Spatio-Temporal Graph Node Generation for Forecasting Unobserved Node States

模型训练上下文与知识应用与实践参数高效训练知识图谱结构化分析、预测与决策

摘要

时空预测是物流、城市规划和智能交通系统的基石。然而,受部署成本和维护资源的限制,传感器网络往往缺乏全面的空间覆盖,这使得预测未观测节点状态(FUNS)成为一个关键而艰巨的挑战。传统模型依赖于历史观察,并且在遇到没有先前记录的节点时通常会失败。为了解决这个问题,我们将问题重新定义为时空图的条件生成任务,并提出了 GenST,这是一个引入大型语言模型(LLM)作为语义桥梁的框架,利用预训练的 LLM 进行微调,从节点描述(例如功能区和道路网络结构)中提取丰富的语义特征,以补偿丢失的时空信号。具体来说,我们设计了一个两阶段的生成架构:时空 VAE 首先将时空动态压缩到潜在空间中,然后是生成变换器 (GenT),它根据以下内容重建未观察到的节点的未来状态: 噪声,由多模态条件引导,包括语义、地理坐标和邻里上下文。对六个流量和两个非流量数据集的实验表明,GenST 在零样本预测任务中显着优于现有基线,证明了语义引导生成在缓解时空数据稀疏性方面的实际潜力。

GenST:大模型语义引导未观测时空节点预测:论文原图
图 3.GenST 架构。该架构具有以第 2 阶段为中心的统一生成管道,其中潜在基础与多模态上下文对齐相统一,以驱动主要引擎进行直接第 3 阶段零样本推理。