论文
GAP-Prompt:用于高效持续学习的门控自适应提示
GAP-Prompt: Gated Adaptive Prompting for Efficient Continual Learning
摘要
持续学习面临着灾难性遗忘的持续挑战,连续的任务更新会降低以前获得的知识。虽然基于提示的方法与预训练模型集成,通过冻结主干网络提供了令人信服的解决方案,但它们通常依赖于静态的任务级提示策略,而忽略了细粒度的任务内多样性。在本文中,我们提出了门控自适应提示(GAP-Prompt),这是一种将实例级适应性引入提示过程的新颖方法。 GAP-Prompt 由三个协同模块组成:(1)实例条件门控,动态确定每个单独图像的最佳提示注入层; (2)动态知识融合,对当前和历史提示进行实例感知聚合,实现跨任务的知识集成; (3) 共享提示 蒸馏,它将基础知识锚定在早期共享层中以减少遗忘。对 CIFAR-100、ImageNet-R 和 CUB-200 基准的广泛评估表明,GAP-Prompt 始终实现最先进的性能。值得注意的是,在细粒度的 CUB-200 数据集上,GAP-Prompt 的准确率达到 87.29%,接近联合训练上限 (88.00%),并且大幅优于现有方法。