论文
利用大语言模型生成鲁棒的优化模型组合
Generating Robust Portfolios of Optimization Models using Large Language Models
摘要
数学优化是资源分配与规划等领域中结构化决策的有力工具。然而,构建忠实于现实的优化模型仍是一个重大瓶颈,因为这通常同时需要领域专业知识和优化知识,而两者往往稀缺。大语言模型(LLM)的最新进展有望弥合这一鸿沟,能够从自然语言描述生成候选优化模型。然而,无法保证任何单个LLM生成的模型是可靠的,因此只输出单个模型的现有方法存在风险。在本工作中,我们提出一种新颖算法,生成一个优化模型组合(portfolio),使其对LLM的局限性具有鲁棒性。我们的方法利用这样一个观察:单个LLM可以扮演两种不同角色——作为随机生成器与作为推理评估器——并提出一个以互补方式利用这两种能力的统一框架。我们提供理论保证表明:只要生成器或评估器中至少一方与人类偏好良好对齐,该组合就保证包含高质量候选,从而支持一个有原则的人在回路流程——决策者可在最终确定之前审阅多个候选。我们进一步通过实证验证该方法,在一系列优化建模任务上展现出强劲性能。
