U-STS-LLM 用于流量预测和插补的统一时空引导 大语言模型

现代蜂窝网络的高效运行取决于对时空流量数据的准确分析。掌握这些模式对于核心网络功能至关重要，主要是预测未来负载以预防拥塞，并估算由传感器故障或传输错误引起的缺失值以确保数据连续性。虽然预测和估算有着密切的联系，但它们在历史上一直作为独立的子领域发展。时空图神经网络（STGNN）是主流范式，虽然有效，但通常是专门化的、计算密集型的，并且泛化能力有限。同时，采用大型预训练语言模型（LLM）为序列建模提供了强大的替代方案，但现有方法提供的结构指导较弱，导致不稳定的收敛和对预测的狭隘关注。为了弥补这些差距，我们提出了 U-STS-LLM，这是一个基于时空引导的 LLM 构建的统一框架。我们的核心创新是动态时空注意力偏差生成器，它合成具有瞬态节点状态的持久功能图，以明确引导 LLM 的注意力。结合通过低秩适应 (LoRA) 和门控自适应融合机制调整的部分冻结主干，该模型实现了稳定、参数高效的自适应。 U-STS-LLM 在统一的多任务目标下进行训练，学习整体数据表示。对真实世界细胞数据集的大量实验表明，U-STS-LLM 在长期预测和高缺失率插补方面建立了最先进的新性能，同时保持了卓越的训练效率和稳定性，为在结构化非语言领域利用基础模型提供了新颖的蓝图。