FunL2O：LLM-引导学习优化的特征函数设计

学习优化 (L2O) 方法通过训练模型来预测解决方案、热启动、分支决策或其他形式的求解器指导来加速重复优化。这些管道的一个关键但在很大程度上被忽视的组成部分是将问题实例映射到机器学习模型的输入的特征函数。现有的 L2O 方法通常依赖于手工制作的特征，使得表示设计需要手动进行，并且在很大程度上是跨领域固定的。我们推出 FunL2O，这是第一个通过 LLM 驱动的 L2O 程序演进实现功能设计自动化的统一框架。在 FunSearch 式循环中，LLM 提出可执行的特征函数，同时固定的评估过程重新训练原始 L2O 模型并测量下游优化性能。我们在涉及解预测和热启动的线性和二次编程任务以及使用 GNN 引导的后门分支和预测与搜索的混合整数优化任务上评估 FunL2O。在连续和离散优化任务以及四个 LLM 中，进化后的特征始终优于手工制作的表示。这些结果将 LLM 驱动的特征演化确立为 L2O 中自动化表示设计的通用且有效的方法。