论文
借助记忆增强大语言模型的鲁棒优化自动重构
Automated Reformulation of Robust Optimization via Memory-Augmented Large Language Models
摘要
鲁棒优化(RO)为不确定性下的决策提供了有原则的框架,但其实际应用常常受限于需要人工将不确定优化模型重构为可处理的确定性对应形式。最近的研究表明大语言模型(LLM)在自动化优化建模方面前景可观,但RO重构仍然具有挑战性,因为它需要精确的多步推理和数学上一致的变换。为便于对基于LLM的重构进行系统性评估——目前尚无专门的基准——我们构建了AutoRO-Bench,其特色包括面向核心RO重构任务的自动化数据生成流水线,以及面向RO应用任务的精选数据集。为应对重构挑战,我们提出基于经验记忆的自动重构(AutoREM),一个免调优的记忆增强框架,通过定制的离线适配流程对过去的失败轨迹进行反思,自主构建结构化的文本经验记忆。AutoREM既不需要领域专家知识,也不需要参数更新,且所得记忆可以方便地迁移到不同的基座LLM。实验结果表明,在分布内数据集、分布外数据集以及多种基座LLM上,AutoREM都能持续提升RO重构的准确性和效率。
