论文

LLMODE:通过门控词元注入将 ODE 与 LLM 对齐,以进行不规则时空预测

LLMODE: Aligning ODEs with LLMs via Gated Token Injection for Irregular Spatio-Temporal Forecasting

模型架构混合架构

摘要

大语言模型 (LLM) 已显示出时空预测的前景,但现有方法通常依赖于定期采样的标记序列,并且由于时间异步、表示空间不对齐和有限的上下文窗口而难以处理不规则的观测。我们提出了 LLMODE,这是一种具有冻结 LLM 主干的不规则时空预测的词元高效框架。 LLMODE 首先使用图感知 ODE 编码器将不规则图观测值重建为连续时间潜在轨迹。然后,固定预算Perceiver重采样器将此可变长度轨迹压缩为固定数量的动态内存词元。同时,紧凑的统计描述符被编码并重新采样到上下文内存词元中。双源门控交叉注意模块将两个记忆注入冻结的 LLM 中,从而实现外部时空证据的受控利用。对三个现实世界城市数据集和两个物理动力学基准的实验显示出具有竞争力的整体性能,在稀疏或动态复杂的不规则采样下具有更明显的优势。对看不见的城市区域的额外评估进一步证明了无需适应的强大零样本泛化能力。