PROBE：以二阶驻点处理非凸下层双层优化

尽管近年来，双层优化（BLO）已成为解决许多复杂和嵌套机器学习问题的强大框架，但大多数现有研究仅限于较低级别的强凸（LLSC）或较低级别的一般凸（LLGC）设置（即，假设较低级别的目标函数至少是凸的）。虽然 LLSC/LLGC 假设使得算法设计和理论分析更容易处理，但它们过于僵化，无法涵盖实践中的许多机器学习问题。 BLO 中 LLSC/LLGC 假设的局限性促使我们研究在一般较低级非凸 (LLNC) 设置中解决 BLO 问题，该问题仍处于起步阶段。在 LLNC-BLO 的文献中，大多数现有的工作要么需要在较低层目标函数中使用额外的结构来进行易于处理的理论分析，要么采用一阶平稳性重构作为较低层的替代问题，这是从 LLSC/LLGC 设置继承的，但在 LLNC 设置中可能会失去其有效性。为了弥补这一差距，我们建议使用基于二阶平稳性的代理重新表述非凸低层问题，其解决方案保证了较低层的局部最优解。基于这种重新表述，我们提出了 PROBE（双层问题的扰动梯度算法），并表明它通过探测和逃避较低层鞍点克服了先前工作的局限性。我们证明 PROBE 的有限时间收敛率为 $O(T^{-2/5})$，其中 T 表示迭代。据我们所知，这项工作首次建立了有限时间收敛，以在通用 LLNC-BLO 中实现较低级别的二阶平稳解。我们对基于大型语言模型的数据管理任务和元学习任务的实验也表明 PROBE 优于 SOTA 方法。