潜在个人记忆：将个人记忆表示为动态软提示

个性化 大语言模型 (LLM) 需要以计算高效、可扩展且与冻结基础模型兼容的方式对长期的、用户特定的行为模式进行编码。我们提出了潜在个人记忆（LPM），这是一个可扩展的框架，它将用户特定的历史记录表示为一个由 N 个潜在槽组成的紧凑、持久的矩阵，并且是可解释的。共享的交叉注意力投影网络将这些槽映射到动态的、输入条件的软提示中，这些提示被添加到冻结的 LLM 的输入之前。我们在 Qwen3-1.7B、4B 和 8B 主干上的 PersonaMem v1 和 LoCOMO 基准上评估 LPM。结果表明，LPM 在 PersonaMem v1 上的总体准确度分别优于 LoRA 和 Prompt Tuning 高达 8.8% 和 54.4%，同时将 KV 缓存使用率减少了 64 倍以上。在 LoCoMo 上，LPM 与 LoRA 的精度相当，但可训练参数减少了 120 倍。我们还表明，LPM 的效率随着上下文长度的增加而增长，并且在 128K 上下文长度下优于全上下文。