ITNet：涵盖卷积、注意力与循环的可学习积分变换

卷积网络、循环网络与transformer各自编码不同的归纳偏置——局部性、序列记忆与内容依赖的成对交互——并且自诞生以来在数学上彼此迥异。我们表明这种碎片化反映的不是信号应被处理方式的根本多样性——而是对单一底层数学对象的不完整视角：可学习积分变换。我们介绍积分变换网络（ITNet）——围绕联合依赖位置与特征的可学习核构建的统一架构。该核实现为小型神经网络（具体为MLP）——建模成对交互——使模型能从数据适配其行为。我们表明：在适当参数化下——卷积、自注意力（含多头）与自回归循环（含LSTM、GRU、S4与Mamba）作为特例涌现——且ITNet是连续算子的通用逼近器。为使其实用——我们开发分块核融合、重要性加权蒙特卡洛积分与学习到的低秩分解——实现高效可扩展计算。带共享算子与轻量模态专属编码器的单一ITNet架构在ImageNet-1K、GLUE、ModelNet40、VQA v2与NLVR2上匹敌或超越专门基线。结果表明单一学习到的交互机制能从数据恢复全部三个架构家族的行为。