论文
AutoPass:用于编译器性能调优的证据引导 LLM 代理
AutoPass: Evidence-Guided LLM Agents for Compiler Performance Tuning
摘要
大语言模型 (LLM) 显示了代码编译任务的前景,但由于复杂的微架构效应和嘈杂的运行时测量,将它们应用于运行时性能调整很困难。我们提出了 AutoPass,一个用于编译器性能调整的多代理框架,它使用编译器和运行时证据来指导 LLM 生成的优化决策。 AutoPass 不像之前的自动调优方案那样将编译器视为黑匣子,而是向 LLM 开放编译器,使其能够查询编译器内部优化状态并分析中间表示以编排编译器选项。搜索过程使用测量的运行时反馈来迭代地细化优化配置,以诊断回归并指导延迟改进编辑。 AutoPass 在仅推理的 无需训练 设置中运行,不需要离线训练或特定于任务的 微调,使其易于适用于新的基准测试和平台。我们在 LLVM 编译器上实现 AutoPass,并在服务器级 x86-64 和嵌入式 ARM64 系统上对其进行评估。 AutoPass 的性能优于专家调整的启发式方法和经典自动调整方法,在 x86-64 和 ARM64 上分别比 LLVM -O3 实现 1.043 倍和 1.117 倍的几何平均加速。