VKE AI Profiling：面向容器环境的零代码 AI 性能剖析能力对外提供服务

VKE AI Profiling 是专为容器环境设计的 AI 性能剖析能力，由字节跳动 STE 系统技术与工程团队联合火山引擎容器团队将内部 AI Profiling 实践产品化封装并融入容器服务 VKE，现已对外提供服务。能力上提供统一入口与零代码采集：无需为排查改造代码，在 VKE 控制台选择命名空间、容器组与容器，勾选 python / cuda / pytorch 采集项，设置采集时长（示例中为 5 秒）抓取稳定 step，下载产物后在 Perfetto 中查看时间线；定位维度覆盖数据加载、Host→Device 传输、算子与混合精度使用、框架调度与同步等待，并可与 PyTorch Profiler、Nsight System 等专项工具分层配合（先统一 Profiling 快速定位，再按需深挖）。面向场景包括训练吞吐与 GPU 利用率治理、推理服务延迟抖动排查、降低首 token 与整体响应时延、提高单卡吞吐降低 GPU 成本、缩短模型迭代微调评测周期。