CurvZO：面向高效LLM微调的自适应曲率引导稀疏零阶优化

用反向传播微调大语言模型（LLM）能取得高性能，但会带来巨大的内存开销，限制了在资源受限硬件上的可扩展性。零阶（Zeroth-Order, ZO）优化仅依赖前向传播，提供了一种内存高效的替代方案，但由于梯度估计方差高，通常收敛缓慢或不稳定。稀疏ZO更新只扰动参数的一个子集，可部分缓解该问题，但其效果取决于能否选到信息量大的参数，而这在ZO优化中颇具挑战，因为每次查询只产生标量反馈。我们提出自适应曲率引导稀疏零阶优化（Adaptive Curvature-Guided Sparse Zeroth-Order Optimization, CurvZO），它从标量ZO反馈中在线追踪曲率信号，并利用这些信号构建参数级采样分布，用于在每次更新时选择坐标，从而降低稀疏ZO梯度估计器的方差。此外，CurvZO根据不断演化的曲率信号分布动态调整扰动预算，使稀疏ZO更新既保持聚焦又具备足够的探索性。在OPT与Llama上跨多种NLP任务的大量实验表明，与ZO基线相比，CurvZO持续提升微调性能并缩短训练时间。它可将准确率最多提升4.4个百分点，并实现最高$2\times$的加速，同时保持内存效率。