前沿MoE有多强的模块化能力？专家分工的预注册因果检验

稀疏专家混合 (MoE) 模型将每个词元路由到许多专家中的少数几个，从而提出专家形成与能力或语言相关的功能模块的假设。我们在 Command A+ 上进行了因果测试，Command A+ 是一个前沿开放权重 MoE（总计 218B/25B 活跃；128 名专家，8 名活跃，+1 共享）。我们建立了一个路由质量图集，在任何干预之前预先注册六个族到轴的假设，并在推理时根据大小匹配的随机专家零值消融每个族，测量它是否有选择地打破自己的轴（最坏的脱靶效应最多为目标的三分之一）。至关重要的是，我们根据四个指标和具有引导置信区间的独立语料库运行来测试相同的家庭。我们的发现是警示性的：强大的功能模块化很少见并且依赖于测量。在六个预注册的语系中，只有一个阿拉伯语语系是一个干净的选择性模块，能够在独立语料库和保守的统计条中幸存下来（1/6；更宽松的预注册点规则承认 3/6，但该计数对阈值敏感）。其他所有家族都有真正的因果效应，但缺乏选择性，其明显的模块化随着测量而翻转：语料库、度量和统计栏。 Qwen3-30B-A3B 的阳性对照恢复了其已发表的不相交结构，证实该方法可以检测到存在的模块性。该结论在未量化的 BF16 模型上重现，排除了 4 位量化伪影。我们的结论是，除非语料库、度量和统计条受到控制，否则基于消融的模块化判决并不安全。我们发布图集和消融数据。