论文

AutoSG:LLM 驱动的求解器生成仅根据任务提示进行昂贵的优化

AutoSG: LLM-Driven Solver Generation Solely from Task Prompts for Expensive Optimization

摘要

昂贵的优化任务在现实应用中无处不在,需要高度专业化的求解器。虽然 LLM 驱动的自动求解器生成显示出希望,但当前的范式在处理昂贵的优化时面临三个关键问题:由于领域知识不足而导致的事实幻觉、在细化过程中频繁拆除先前建立的局部最优结构、以及由于在训练实例上执行而导致的过高的评估成本以及受限的泛化。为了解决这些问题,我们引入了 AutoSG,这是一个完全自动化的工作流程,可将自然语言提示直接转换为可执行的自定义求解器。 AutoSG 具有三大核心创新:检索增强求解器生成模块,严格将代码植根于经过验证的文献中;一步式自我完善操作员引入特定于任务的改进,同时保留关键结构组件;以及基于 Elo 的无实例 LLM-as-a-Judge 评估机制,快速建立全球排名。对各种昂贵的优化任务进行的广泛评估证实,AutoSG 的性能显着优于人工设计的最先进框架和现有的 LLM 生成的求解器。