EVA-0：每个样本仅进行两次前向传递的测试时模型演化

测试时模型演化为已部署模型提供了一种有前途的方法，可以从未标记的测试时体验中进行改进，但大多数现有方法依赖于反向传播 (BP)，这会产生大量内存开销，并使它们难以部署在边缘设备、量化模型、专用加速器或黑盒模型上。在这项工作中，我们研究了严格的两次前向预算下的测试时模型演化，这种设置推动了适应高效的现实世界部署。我们揭示了零阶测试时间优化中的三个关键障碍：对捷径解决方案的敏感性、不受控制的权重漂移和无效的更新方向估计。为了克服这些问题，我们提出了 EVA-0，一种最小的零阶自适应框架，它：1）保持损失尺度不变，以防止捷径解决方案； 2）设计一种锚引导优化策略来减轻权重漂移； 3）使用样本对称两侧扰动进行更新方向估计和推断。 EVA-0 不需要 BP，并且每个样本只需两次前向传递即可执行推理和适应。 ImageNet-C 和 ViT-Base 上的结果表明，EVA-0 的性能优于基于 BP 的 DeYO 和无 BP FOA，同时实现了 FOA 14 倍的加速。代码将被发布。