论文

KernelArc:一个用于GPU kernel优化的多Agent框架

KernelArc: A Multi-Agent Framework for GPU Kernel Optimization

摘要

我们提出KernelArc,一个面向异构工作负载的自主GPU kernel优化多Agent框架。策略专属的Agent并行运行,并通过仅结论共享内存、确定性基准守卫和在优化进入平台期时触发草拟方案的只读跨Agent状态进行协调。我们在NVIDIA H100和B200 GPU上使用类别代表性的SOL-ExecBench工作负载评估KernelArc。所得实现涵盖自定义BF16 GEMM、静态cuBLASLt Expert-API配置表、融合的专家混合反向传播、形状门控解码器层融合、原生NVFP4分组查询注意力以及分页预填充注意力。在2026年7月30日记录的公开SOL-ExecBench排行榜快照中,这些提交在代表性的L1、L2、量化与FlashInfer任务上排名第一。这些轨迹支持了论文的核心动机:共享的多Agent搜索可以在固定候选预算内拓宽探索并到达更强的存量解,而单个协调特性的价值取决于kernel本身和优化阶段。