开源项目

Project Maya修复单GPU长提示借用专家缓存尾部导致的内存故障

概述

近期专家槽位位于可借用尾部,即使单GPU快速路径在计时后关闭,异步填充仍可覆盖长提示或图像临时缓冲,后续decode产生NaN路由或非法访问。 借用尾部前按实际recent槽存在情况排空并映射已发和待发填充,避免只依赖当前快速路径开关判断。 固定CUDA实现为作者披露的特定单GPU长提示故障修复,未做本地模型复现,也未宣称全部设备和负载均受益。