通过输入相关长卷积的本机多维次二次算子

当应用于多维数据时，注意力的次二次替代方案需要做出妥协：标准卷积缺乏全局感受野和输入依赖性，而循环模型需要将图像、体积和偏微分方程（PDE）等数据光栅化为违反其空间结构的临时 $1\rm D$ 扫描顺序。我们引入了 \textit{HyenaND}，这是一个次二次、全局、输入相关的算子，它通过与隐式参数化全局、输入相关的多维卷积核进行卷积，直接作用于多维数据的本机几何形状。我们的 CUDA 实现 \texttt{nSubQ} 融合了 FFT 卷积路径，将 HyenaND 的 $\mathcal{O}(L \log L)$ 缩放转化为挂钟加速。在长上下文基因组学、计算机视觉、医学成像和 PDE 建模中，纯 HyenaND 堆栈与强注意力基线的准确性相匹配，而交错 HyenaND 和注意力层的混合配置优于纯注意力和基于强循环的混合配置。