用数字说话 LLM：用于时间序列预测的多小波数嵌入

大语言模型 (LLM) 对于上下文感知时间序列预测很有吸引力，因为它们可以集成异构文本信号，但其离散的、面向语言的标记化和嵌入接口与连续数值不一致，通常会损害数值排序和预测可靠性。我们提出了 TempoWave，一种即插即用的时间小波数字接口，它将每个标量观测值映射到由多小波、多尺度系数构造的数字嵌入。通过直接覆盖标准词元表示，TempoWave 以 Transformer 兼容形式无缝公开细粒度局部波动和宏观全局结构，确保在整个 LLM 管道中保持精确的数字格式、独特的数字标识以及对常见标准化操作的鲁棒性。五个上下文丰富的预测基准的实验表明，TempoWave 相对于标准数字标记化和替代嵌入接口不断改进基于 LLM 的预测器，实现了新的最先进技术。这些结果强调了数字接口是一个关键瓶颈，并表明有原则的多分辨率嵌入可以更好地将 LLM 的上下文推理与精确预测结合起来。我们的代码可在 https://github.com/DC-research/TempoWAVE 获取，我们的模型可在 https://huggingface.co/Melady/TempoWAVE 访问。