论文

TIDE:面向基于LLM的自动启发式设计的调参集成动态进化

TIDE: Tuning-Integrated Dynamic Evolution for LLM-Based Automated Heuristic Design

模型推理推理搜索与路径规划

摘要

虽然大语言模型推进了自动启发式设计(AHD),但将算法进化视为单体文本生成任务,忽视了离散算法结构与连续数值参数之间的耦合。因此,现有方法常因未校准的常数丢弃有前景的算法,并因简单相似度度量而遭受过早收敛。为解决这些局限,我们提出TIDE,一个调参集成动态进化框架,旨在将结构推理与参数优化解耦。TIDE具有嵌套架构:外层并行岛屿模型利用树相似度编辑距离驱动结构多样性,内层循环将基于LLM的逻辑生成与差分变异算子集成以进行参数调优。此外,基于UCB的调度器动态优先高产出提示策略以优化资源分配。跨九个组合优化问题的大量实验表明,TIDE发现的启发式在解质量上显著优于最先进基线,同时实现更高的搜索效率和更低的计算成本。

TIDE:面向基于LLM的自动启发式设计的调参集成动态进化
图2:TIDE-AHD 流水线。左:外循环作为 TSED 引导的 Island Model,通过自适应迁移与融合重置调节全局多样性。右:内循环执行协同进化搜索,将 UCB 调度的算法逻辑生成与参数精修相结合,以缓解数值盲区。