MemCtrl：在具身智能体上使用MLLM作为主动记忆控制器

基础模型依赖上下文学习实现个性化决策。该上下文窗口的有限大小需要记忆压缩和检索系统（如RAG）。然而，这些系统常将记忆视为大型离线存储空间，这对被期望在严格记忆和计算约束下在线运行的具身智能体不利。在这项工作中，我们提出MemCtrl，一个使用多模态大语言模型（MLLM）在线修剪记忆的新框架。MemCtrl为MLLM增配一个可训练的记忆头μ，作为门控决定在探索期间保留、更新或丢弃哪些观察或反思。我们以两种方式训练μ进行评估：1）通过离线专家；2）通过在线RL，并观察到μ增强的MLLM在整体具身任务完成能力上的显著提升。特别是，在EmbodiedBench基准的多个子集上为两个低性能MLLM增配MemCtrl后，我们观察到μ增强MLLM平均提升约16%，特定指令子集超过20%。最后，我们对μ收集的记忆片段进行定性分析，注意到μ增强MLLM在长且复杂的指令类型上表现更优。