NVIDIA Megatron-LM：正式版扩展推理执行、缓存调度与MoE加速

NVIDIA 的 Megatron-LM 于4月17日发布正式版本更新，本次仅计入正式版，alpha 与 RC 预发布版本不纳入统计。更新实质性扩展了推理执行、缓存调度及 MoE（混合专家）加速机制，表明这一主流大模型训练框架正把能力从训练侧延伸到推理与稀疏模型效率优化，相关代码见 GitHub 仓库。