开源项目
TorchTPU正式开源原生PyTorch TPU后端,贯通即时执行与编译模式
Introducing TorchTPU
概述
TorchTPU为希望在Google TPU上运行PyTorch训练和推理任务的开发者提供原生后端。正式公开材料说明,其以PyTorch调度器和设备扩展接入TPU,兼顾即时执行、延迟融合与torch.compile,支持DTensor及常见分布式方式。官方将其定位为Google与Meta的开源协作,已有模型通常可通过改换设备目标启动,但获得最佳性能仍需调整形状、分片和算子。固定v0.2.0源码、Apache-2.0许可、安装与构建入口已核验,Python要求为3.11及以上,实际运行需要TPU环境。此次记录核心后端的正式开源公告;20日已交的vLLM TorchTPU外层服务插件属于另一交付对象,不重复改日或复算。