论文

QUMem:LLM 代理中查询条件用户状态推理的个性化内存

QUMem: Personalized Memory for Query-Conditioned User-State Inference in LLM Agents

上下文与知识记忆Agent记忆

摘要

大语言模型 (LLM) 代理越来越多地使用外部记忆系统,通过利用长期且不断发展的交互历史来支持个性化,其中用户偏好可能随时间分布、随上下文变化,并与早期证据发生冲突。然而,现有系统面临三个限制:固定回合、固定词元或基于会话的边界​​可能会混合不相关的对话或将事件与其原因、决策和结果分开;将来自同一交互的多条用户信息存储为单个内存,将服务于不同功能的项目绑定在一起,并且应该可以独立检索;将当前任务视为单个 top-$k$ 检索查询可以返回单独相关的片段,但无法共同捕获偏好演变、时间有效性和上下文适用性。我们引入了 \textsc{QUMem},一个用于查询条件用户状态推理的结构化内存框架。 \textsc{QUMem} 首先根据语义连续性将交互历史分割为可变长度的片段,然后将每个片段分解为可独立检索的事实、偏好和可转移的洞察记忆,同时保留时间位置和源证据。在推理时,三个顺序代理识别特定于任务的信息需求,计划对类型化内存存储进行多查询检索,并共同推断出临时和上下文有效的用户状态以生成下游响应。 \textsc{QUMem} 在 PersonaMem 和 KnowU-Bench 上都实现了最先进的性能,证明了查询条件用户状态推理对于长期个性化的有效性。