论文
EGG：面向内核生成的专家引导智能体框架
EGG: An Expert-Guided Agent Framework for Kernel Generation
摘要
高性能GPU内核对削减大语言模型（LLM）指数增长的算力成本至关重要——但其开发严重依赖领域专家的手工调优。虽然近期基于LLM的进展展示自动化内核生成的前景——它们仍难兼顾正确性与高性能。该局限主要源于缺乏领域特定优化引导——阻碍优化空间的有效探索。我们提出EGG——面向内核生成的专家引导智能体框架——纳入专家优化原则引导LLM决策。受专家工作流启发——我们把内核生成分解为两个层级阶段：1) 算法结构设计——建立高质量计算结构基础；2) 硬件特定调优——经并行映射、张量分块与内存优化执行定向调整。该分阶段分解定义显式优化目标——结构化设计空间以实现渐进精化。为此——设计阶段感知的多智能体协作机制用于阶段间与阶段内上下文管理——确保稳定优化轨迹。KernelBench与真实工作负载上的实验表明EGG较PyTorch取得2.13倍平均加速——超越既有基于智能体与基于RL的方法。
