论文

DGA₂D:用LLM进行有向图引导的自动算法设计

DGA$_2$D: Directed Graph-Guided Automated Algorithm Design with Large Language Models

模型推理推理搜索与路径规划

摘要

大语言模型(LLMs)的快速发展为解决NP-hard组合优化问题(COPs)的自动启发式设计(AHD)开辟了新途径。然而,现有的基于LLM的AHD方法主要局限于固定的求解器模板,将搜索过程限制在孤立的模块调优中。向完全自主的系统级算法设计过渡是必要的,但生成的操作器可靠性低,搜索空间极其庞大,信用分配无效。为克服这些缺点,本文提出了一种引导式图结构的自动算法设计框架,称为DGA$_2$D。它将开放的程序空间结构化为有向图,其中每个节点代表可以使用多种候选代码实现的函数操作,有向路径构成完整的算法管道。引入了一种第一级路径依赖的信用分配机制,严格基于其拓扑上下文来评估代码变体。在12个不同类型的COPs上进行了广泛的实验,包括复杂的调度和路由,结果表明DGA$_2$D在统计上表现出显著的优越性,平均标准化差距减少了10.96个百分点,相比最先进的LLM基准高出10.96个百分点。

DGA₂D:用LLM进行有向图引导的自动算法设计:论文配图
图1:自动启发式设计(AHD)的演化。左:NP 难问题领域及指数增长的解空间。右:不同 AHD 范式的比较。与传统启发式设计和半自主生成方法不同,本文的自主生成同时演化完整的算法结构与算子。