面向LLM个性化的响应感知用户记忆选择

大语言模型（LLM）个性化的一种常见做法是在推理时将用户记忆的一个子集纳入提示词，以引导模型的生成。现有方法主要依据用户记忆条目与输入查询之间的相似度来选择这些子集，忽略了这些特征实际如何影响模型的响应分布。我们提出面向记忆选择的响应效用优化（Response-Utility optimization for Memory Selection, RUMS），一种通过度量记忆子集与模型输出之间的互信息来选择用户记忆条目的新方法，识别出那些能降低响应不确定性、使预测超越语义相似度而更敏锐的条目。我们证明，这一信息论基础使记忆选择更有原则性，与最先进方法相比更贴近人类的选择，并且可扩展到$400\times$更大的模型。此外，我们表明使用RUMS选择的记忆条目带来比现有方法更好的响应质量，同时计算成本最多降低$95\%$。