DBES：用于评估大型 MoE 专家专业化的系统基准和指标套件

专家混合 (MoE) 模型中的专家专业化仍然知之甚少，传统评估将架构负载平衡与功能专业化混为一谈。我们引入了 DBES，这是一个综合性的诊断框架，它将多域基准与五个基于理论的指标相结合：路由专业化、标准化有效排名、域隔离、路由刚度评分和 N-gram 专业知识度量。关键发现证明了跨模型的独特专业化范式：Qwen 系列展示了具有高度域隔离的模块化专业化，而 DeepSeek 和 GLM 采用分布式协作。然而，我们强调，专业化是一个诊断维度，对于下游绩效来说是必要的但还不够。最重要的是，干预证据验证了这些指标的可操作性：通过使用 DBES 在特定领域的 后训练 期间识别高度专业化的专家路径，我们仅用 15% 的原始训练资源就在专业领域实现了 66% 至 94.48% 的改进，证明这些诊断工具可以转换为具体的优化算子。这项工作提供了第一个独立于准确性指标评估专家专业化的系统方法，为下一代 MoE 系统的设计和 后训练 优化提供了重要的见解。