开源项目

PyTorch:2.10.0新增融合内核与算子

pytorch/pytorch

模型推理推理加速

概述

PyTorch是pytorch团队维护的开源深度学习框架,采用BSD-3-Clause许可并提供源码安装说明。本次2.10.0为正式版,在Inductor中新增横向融合的组合内核,并加入varlen_attn算子,构成编译执行机制与算子API的实质扩展。依赖Inductor生成内核的训练与推理代码,升级后可覆盖新的融合形态与变长注意力场景,具体行为差异需按版本说明核对。