论文

SimpleEvol:用于大语言模型驱动的自动化启发式设计的Agent循环框架,具有最少的人类先验

SimpleEvol: An Agent-Loop Framework for LLM-Driven Automated Heuristic Design with Minimal Human Priors

智能体系统Agent 架构与控制循环Agent Harness

摘要

大语言模型 (LLM) 已成为自动启发式设计 (AHD) 的强大工具,可实现启发式的迭代生成和细化。然而,主流范式将大语言模型作为狭窄的、固定的组成部分(例如交叉或突变)嵌入到手工设计的进化框架中。我们认为这误解了大语言模型。它将它们视为专门的工具而不是一般的推理器,将它们限制为低级操作,并没有充分利用它们的自主权。此外,这些框架中广泛的人类先验违反了惨痛的教训原则,即通过计算扩展的通用方法超越了手工制作的解决方案。这就提出了一个关键问题:哪种 AHD 框架设计能够最好地将更强的 LLM 功能转化为更好的启发式方法?为了解决这个问题,我们提出了 LLM 驱动的 AHD 框架手工性 (AHI) 和智能转换效率 (ICE) 的指标。通过评估三个具有挑战性的组合优化问题的十个大语言模型,我们得到了一个显着的发现,即具有较少人类先验的框架始终会产生更高的 ICE。基于这一发现,我们提出了 SimpleEvol,一种 AHD 的Agent循环框架,它消除了几乎所有的人类先验,并允许大语言模型自主运行。 SimpleEvol 始终保持最高的 ICE,而且通常遥遥领先。我们的结果挑战了复杂 AHD 管道的趋势,并指出了一种更轻、更以模型为中心的替代方案,这表明减少人类先验是扩展模型智能的更有效策略。源代码可在 https://github.com/HenryZhu1029/SimpleEvol-Master. 获取