论文
教大语言模型通过求解器反馈生成具有挑战性的 MILP 实例
Teaching LLMs to Generate Challenging MILP Instances via Solver Feedback
摘要
生成既可行又具有计算挑战性的优化实例对于基准求解器和训练基于学习的优化算法至关重要。现有的非 LLM 生成器依赖于种子实例或参数调整,导致测试时计算成本较高,而现有的 LLM 生成器缺乏明确的硬度测量。最近带有验证者反馈的强化学习方法仅评估二进制正确性,这与生成具有挑战性的问题不一致。我们注意到,优化求解器报告了其流程的多个阶段的求解成本,并利用它来设计一个奖励,对所生成问题的可解性和难度进行评分,通过分支定界节点和切后松弛间隙来衡量。我们的关键思想是挑战者-求解器非对称自我对弈方法,其中 LLM 挑战者生成逐渐困难的实例,求解器验证可行性和硬度,因此不需要种子或训练 MILP 实例。我们使用 GRPO 和大小课程对 Gemma-4-12B 和 Qwen3.5-4B 进行微调,将其调整为 OptiScribe-12B 和 OptiScribe-4B,从而从自然语言指令中生成可行但具有挑战性的 MILP 问题。在有能力的设施定位和最大切割方面,OptiScribe-12B 比其基本模型将 SCIP 搜索节点中值提高了 1.7-5 倍,切割后间隙提高了 1.1-1.7 倍,并将设施定位的可行性率提高了 9-19 个点,而 OptiScribe-4B 将中值节点提高了 15.6 倍。这些问题涵盖的难度范围比相同规模的公共基准更广泛,遵循密度和难度的说明,并且可以为公共图书馆缺乏的家庭调整求解器设置。这些结果表明,在自我对弈模式中使用的特定于优化的奖励可以教会大语言模型生成高难度的优化基准。我们将在接受后公开发布我们的代码和模型。