论文

TRACE-Memory:面向个性化生成的公共条件化检索与效用感知证据准入

TRACE-Memory: Public-Conditioned Retrieval and Utility-Aware Evidence Admission for Personalized Generation

上下文与知识记忆Agent记忆

摘要

个性化生成系统按请求-记忆相关性检索用户历史并注入模型上下文。然而,相关的历史可能涉及错误的偏好侧面、重复公共信息,或支持不足。我们主张,只有当个人记忆能在仅靠公共信息的响应之外增加效用时才应使用。我们提出TRACE-Memory,一个用于选择性个性化的两阶段框架。第一阶段针对请求与公共上下文中缺失的用户特定信息生成查询,然后检索以覆盖为导向的候选池。第二阶段依据响应层面的增量效用,准入一个来源可追溯的紧凑证据单元子集,或空集。我们通过结构化SFT初始化、降空间分阶段GRPO预热和嵌套多样本联合GRPO,渐进训练查询生成与证据准入策略。在来自Goodreads、Amazon Reviews和Reddit的4500个受控与自然任务上,TRACE-Memory持续优于随机与词汇式记忆使用,较语义检索有所改进,随着本地生成器容量提升可与前沿大语言模型记忆管线竞争,并将证据准入条件化于公共上下文的充分性,支持选择性而非默认的个性化。

TRACE-Memory:面向个性化生成的公共条件化检索与效用感知证据准入:论文配图
图1:基于相关性的记忆使用的三种失效模式。