论文

用于一般持续学习的受大脑启发的分层模块化

Brain-Inspired Hierarchical Modularity for General Continual Learning

模型训练持续学习

摘要

持续学习要求从连续经验中学习,同时保留并适配既有知识,是变化环境中智能系统的核心能力。但传统研究多采用离线逐任务训练与清晰任务边界,与在线、不确定且不断演变的数据流中的通用持续学习仍有差距。在该场景中,系统需隔离冲突经验以减少干扰,同时整合兼容经验以促进泛化。受果蝇学习记忆系统启发,我们提出层级模块化原则,以专家分工及集成整合协调两种功能。方法对预训练基础模型作轻量模块适配,结合仿脑随机扩展的专家路由与跨时空尺度的多样化模块整合。在视觉识别、视觉语言理解、第一与第三视角视频理解及具身视觉语言动作学习中,方法持续改善在线、不确定数据流学习;具身操作相对无回放方法的收益超过50个百分点。这支持层级模块化作为从动态经验学习的一条仿生路径。