超算法设计Agent：从零开始进化可学习优化器

元黑盒优化（MetaBBO）是最近人工智能优化趋势的亮点之一。该范例的双层工作流程利用元级别的可学习算法设计策略来确保低级优化任务的性能和泛化能力的提高。虽然MetaBBO有助于提高优化系统的性能下限，但目前它是手工制作和定制的，以适应不同的优化问题，这不可避免地引入了固有的主观性，从而限制了实践中的性能上限和可用性。在本文中，我们通过将 MetaBBO 的设计循环视为编码任务来解决这个问题，其中我们可以将开放性引入 MetaBBO 中，并具有高级编码Agent的递归自我改进能力。具体来说，我们提出了一个双Agent框架：i）任务Agent通过代码进化不断完善目标 MetaBBO 方法的代码库； ii) 超级Agent逐步修改任务Agent及其自身以提供开放式设计行为； iii) 评估进化的 MetaBBO 代码库，并将所有执行中的信息反馈给Agent以进行递归自参考改进。因此，给定一个简单的 MetaBBO 模板，我们的框架会自动进行设计演变，并找到优于最新人造 MetaBBO 基线的新颖变体。令人惊讶的是，实验结果还表明我们的框架支持跨不同优化领域的快速适应。扎实的解释分析进一步揭示了在这种开放式过程中出现的有趣的设计原则。这项工作是对复杂学习辅助优化算法的自动化设计的首次探索。