TinyCeNN-LM：用CeNN启发的细胞递归层对预训练注意力进行质量门控转换

替换预训练语言模型中的注意力是一个兼容性问题：看似可行的替代层可能改变后续层所预期的表征。TinyCeNN-LM提出一种质量门控的训练后转换框架，使用受CeNN启发的细胞递归层，具备有界局部处理、紧凑递归记忆、路由、融合以及接受或回滚验证。我们研究三种实现：Integrated Memory、MemoryFusion和PDelta3-GDN2-CLVR+Local32。严格的PDelta3转换仅在表征与NLL指标通过固定阈值时才接受该层。在SmolLM2-135M上，第0–2层被接受，累计ΔNLL=+0.01209；第3层尽管NLL可接受，却因表征保真度不达标而被拒绝。在Qwen3.5-0.8B上，全注意力层3、7、11被接受，最终ΔNLL=+0.02073。Integrated Memory在困惑度变化-0.07%至+0.93%的同时，将总缓存最多减少6.01%。一项200项抽样的下游健全性检查显示，转换后的Qwen版本总体准确率为28.5%–32.0%。这些结果支持保守的、质量门控的结构转换，而非普适的注意力替换或加速。