论文
VikingMem:面向有状态LLM应用的记忆库管理系统
VikingMem: A Memory Base Management System for Stateful LLM-based Applications
摘要
大语言模型革新了交互式应用,但其有限的上下文窗口给维持有状态的长期交互带来了关键的数据管理挑战。现有记忆方法往往依赖简单粗糙的抽取方式导致记忆不完整,或使用刚性的、面向聊天机器人等单一用例定制的单用途记忆抽取提示。因此,它们缺乏泛化能力,在多样的下游任务上表现不佳。为弥合这一差距,我们提出Memory Base,一种用于管理长期交互持久状态的新型数据管理范式。它有三个核心原则:从原始信息流中选择性抽取高价值记忆;固有的有状态性与演化性,即记忆内容被逐步总结、修正并按时间加权以优先保留近期交互;以及可泛化的抽象范式,为在教育、推荐和智能体记忆等多样应用中稳健迁移而设计。在此基础上,我们提出VikingMem,一个实现于VikingDB向量引擎之上的端到端Memory Base管理系统。VikingMem通过相互关联的事件与实体抽象将这一范式具体化。它以事件为中心的记忆抽取为特色,可选择性地处理复杂信息流,同时实体由事件动态更新以实现有状态演化。借助按主题时间线的时间压缩和时间加权召回,系统逐步产生高层总结记忆,优先保留近期条目,并压缩和淡化旧有条目。在长期记忆基准上的大量评估表明,VikingMem的记忆检索效果最多领先基线30%,同时保持交互式应用所必需的低延迟。
