LLM引导的进化搜索用于约束模型重构以提升求解器效率

组合问题出现在众多工业应用中。一种常见做法是将这些问题表述为声明式约束模型，随后编译到多种后端求解器上求解。近期研究表明，大语言模型（LLM）能够从自然语言生成正确的模型，但即便模型正确，求解代价也可能很高，因为性能对建模选择依然敏感。本工作研究 LLM 能否自动化面向性能的模型重构。受自动启发式设计（Automatic Heuristic Design，AHD）启发，我们采用进化框架，由 LLM 提出候选重构方案，经验证后与用户自定义基线模型进行基准比较。我们比较了多种经 AHD 改造的搜索策略，它们控制哪些历史尝试、指令与实测反馈进入每次提示。现有保留策略优先考虑新近性或性能，但未显式使上下文多样化。为填补这一空白，我们提出 Profile-Diverse Retention（PDR），将最大边际相关性（Maximal Marginal Relevance，MMR）应用于实例级运行时向量，以保留行为多样的尝试。我们在八个 CSPLib 问题上系统评估这些策略，并采用基于验证集的最终模型选择。结果表明：(i) 迭代式重构可带来可观的留出加速；(ii) 保持保留上下文多样的策略优于仅保留最近或最快尝试的策略；(iii) 基于验证集的选择能提升每种策略的留出加速。