论文

LargeMonitor:通过大型预训练模型监控在线无任务持续学习

LargeMonitor: Monitoring Online Task-Free Continual Learning via Large Pretrained Models

模型训练持续学习

摘要

在线无任务持续学习(TFCL)要求智能代理在严格的单遍约束下并且没有任何显式任务标识符的情况下从无界、非平稳数据流中顺序积累知识。现有的在线 TFCL 范例主要依赖于参数有效的提示调整或由训练耦合优化动态驱动的动态结构扩展,例如经验损失波动或不断变化的潜在距离。因此,这些与训练耦合的求解器仍然不知道分布漂移的结构起源,在根本不同的流变化中机械地执行固定策略。为了解决这一差距,我们提出了 LargeMonitor,这是一个利用大型预训练基础模型来自主协调无任务连续适应的框架。具体来说,LargeMonitor 引入了一个解耦检测模块,利用大视觉模型 (LVM) 的冻结、稳定表示空间来实现鲁棒、零样本漂移检测,而无需依赖于训练的干扰或脆弱的阈值调整。在确认漂移后,该框架激活由大型多模态模型(LMM)驱动的上下文感知诊断模块,以解释流变化的精确语义病因(例如,新类别的出现与环境域转移)。这种双阶段功能使持续学习者能够动态部署自适应和特定于班次的优化策略。跨多个 TFCL 设置和基准的大量实验表明,LargeMonitor 可以实现复杂数据流的精确、稳健的检测和诊断,同时不断提高现有在线 TFCL 算法的性能。