论文
MaRK:调节冻结状态空间模型的递归算子
MaRK: Markov-adapted Recurrent Kernels for Dynamic Operator Conditioning in State Space Models
摘要
状态空间模型 (SSM) 为序列建模提供了 Transformer 的有效替代方案,但用于迭代生成的预训练 SSM 通常通过输入注入或激活调制在循环算子之外运行。虽然此类机制将模型暴露给调节信息,但它们使底层的时间动态保持固定。我们引入了 MaRK(马尔可夫自适应循环核),这是一种动态算子调节框架,可将上下文向量直接映射到冻结 SSM 的循环 ($A$)、读入 ($B$)、读出 ($C$)、跳过 ($D$) 和离散化 ($\Delta$) 参数的有界调制中。从 LPV-SSM 系统的角度来看,MaRK 引入了上下文索引的马尔可夫参数序列系列,允许每个扩散时间步重塑模型的输入输出记忆内核。我们在冻结的 111M 参数 Hydra SSM 主干上实例化 MaRK,并研究三种适配器几何结构:Hypernet、Chebyshev 多项式和离散余弦变换内核。由于这些适配器通过低秩修改马尔可夫参数序列 在冻结主干上的辅助图上,参数高效的微调是适应机制本身的结构结果,只需要 6.3--11M 可训练的辅助参数即可从双向目标过渡到迭代扩散机制。有界递归参数化进一步产生调制递归的解析仿射二次稳定性证书。通过合成 LPV 恢复实验和马尔可夫算子诊断,我们表明 MaRK 在匹配假设下恢复坐标不变时间算子,并产生独特的、稳定的时间步条件记忆配置文件。根据经验,Chebyshev 变体具有最强的性能,平均验证损失为 2.55,其次是 DCT (2.59) 和 Hypernet (3.77) 几何结构。
