论文

MemLife:对长期以自我为中心的视频记忆的策划和推理

MemLife: Curating and Reasoning over Long-Term Egocentric Video Memories

上下文与知识记忆Agent记忆

摘要

长期以自我为中心的视频使个性化的人工智能助手能够推理日常生活。然而,随着视频历史增长到跨越数月或数年的数百小时,为每个查询重新处理原始剪辑在计算上变得令人望而却步。内存系统通过将视频压缩为文本表示形式提供了一种可扩展的替代方案,但在实际基准测试中常常失败:要么内存无法保留关键证据,要么由于搜索空间不断增长的检索竞争,检索器无法找到相关条目。为了应对这些挑战,我们引入了 MemLife,这是一种多模态记忆系统,它构建基于实体的第一人称文本片段,并通过时间索引的 Agentic 阅读器检索它们。在没有训练或查询时视频访问的情况下,MemLife 在四个长期基准测试中比最强的无训练基线提高了 4.6--12.0%。为了进一步提高记忆质量,我们提出了 MemOpt,这是一种强化学习框架,可优化记忆写入器以产生忠实、信息丰富且可检索的记忆。 MemOpt 在不同的视频和问题分布中持续将 MemLife 提高了 2.7--5.0%,其收益遍及作者和读者主干以及记忆系统。