论文
我们的基准足够吗? MLLM 持续学习分析
Is Our Benchmark Enough? An Analysis of Continual Learning for MLLMs
摘要
持续适应对于跨不断发展的领域部署的多模态 大语言模型 (MLLM) 至关重要,但最先进的 MR-LoRA 方法高度依赖于基于 MLLM 的路由器处理复杂多模态输入所必需的假设。本文重新审视了 MLLM-CL 基准上的这一主张,并提出了两个主张。首先,路由不需要 MLLM:一种简单的 无需训练、无重播典型路由方法(RePRo),使用冻结的预训练特征和任务原型以低得多的计算成本来匹配 MR-LoRA 的基于 MLLM 的路由器。 \textbf{第二},共享专家并不能改善 MLLM 的持续学习,尽管它们在理论上很有吸引力。我们表明,这些发现源于 MLLM-CL 的两个结构限制:(1)其任务在表示空间中 \textbf{高度可分离},以及(2)其固定的任务顺序使得结论 \textbf{对单一课程敏感},而不是在不同的持续学习轨迹中稳健。因此,该基准主要奖励孤立的学习,而不是真正的持续迁移。这激发了未来持续 MLLM 学习基准的新设计,其中包括重叠的任务流形、多个任务顺序、细粒度的域转移以及奖励前向迁移和保留的评估协议。