论文

FormuEvo:LLM 引导进化,用于发现求解器高效的混合整数编程公式

FormuEvo: LLM-Guided Evolution for Discovering Solver-Efficient Mixed-Integer Programming Formulations

智能体系统Agent 架构与控制循环

摘要

混合整数规划 (MIP) 是运筹学和工业优化的核心。虽然 大语言模型 (LLM) 最近在自然语言的自动化 MIP 建模方面表现出了希望,但它们优先考虑语义正确性,但忽视了公式强度,严重阻碍了下游求解器的效率。我们提出了 FormuEvo,一个 LLM 引导的进化框架,用于自动发现求解器高效的 MIP 公式。 FormuEvo 将 MIP 配方设计定义为 MIP 配方符号空间上的进化优化,表示为可执行建模程序,通过 LLM 驱动的交叉、突变和修复操作迭代生成、评估和选择更强的候选者。为了超越盲目探索,FormuEvo 引入了一种基于求解器的诊断机制,该机制利用细粒度求解器统计数据作为语言梯度来进行有针对性的细化。此外,结构化内存将先前的经验抽象为可重用的建模策略,避免冗余探索,同时实现对未见过的问题的零样本迁移并引导更小的 LLM。针对各种线性和非线性问题的实验表明,FormuEvo 发现的配方显着优于专家设计的配方和现有的基于 LLM 的方法,将求解速度提高高达 5.5$\times$,并且提炼的知识可以跨问题和模型规模有效转移。