开源项目Megatron Core 0.19.2 更新低精度训练与流水线支持NVIDIA/Megatron-LMNVIDIA·来源日期:2026.09.19模型训练预训练收藏概述原文译文Megatron Core 是大模型分布式训练组件,处理并行训练、通信和低精度计算。 Megatron Core 0.19.2升级TransformerEngine并增加FP4训练流水重叠支持。