TimeSqueeze：面向高效时间序列预测的动态分块

基于Transformer的时间序列基础模型在分词（tokenization）方式的选择上面临一个根本性权衡：逐点嵌入（point-wise embeddings）能保持时间保真度，但随序列长度增加扩展性很差；而固定长度分块（fixed-length patching）通过施加统一边界提升了效率，却可能破坏自然的过渡并模糊有信息量的局部动态。为解决这些局限，我们提出TimeSqueeze，一种动态分块机制，它基于局部信号复杂度在每个序列内自适应地选择分块边界。TimeSqueeze首先应用一个轻量级状态空间编码器提取全分辨率的逐点特征，然后进行内容感知的分割，为信息密集区域分配短分块，为平滑或冗余片段分配长分块。这种可变分辨率压缩在保留关键时间结构的同时，大幅减少了呈现给Transformer骨干网络的token序列。特别是在大规模预训练中，与等价的逐点token基线相比，TimeSqueeze获得了最高20倍的更快收敛和8倍的数据效率提升。在多个长时程预测基准上的实验表明，TimeSqueeze持续优于使用逐点分词或固定大小分块的同类架构。