论文

Less Is Personal:学习个性化模型的最小充分用户画像

Less Is Personal: Learning Minimal Sufficient User Profiles for Personalized Language Models

上下文与知识上下文工程

摘要

检索增强的个性化使大型语言模型能够使用从用户历史记录中检索的相关记录来生成更准确且符合偏好的输出。个性化语言模型通常会预先添加固定数量的检索到的用户记录,即使附加历史记录是多余的、有害的或与用户的独特行为无关。我们研究最小的充分个性化:为每个输入构建成本最低的有序配置文件,同时保留从检索到的候选池中可实现的效用。我们引入了 ENOUGH,一种迭代附加行为记录或发出 STOP 来构建具有自适应长度的配置文件的方法。离线、有界反事实搜索通过联合考虑下游收益、用户特异性和Token成本来评估配置文件前缀。由此产生的长期目标被提炼成具有明确排名和停止监督的多头价值控制器。在推理时,控制器通过轻量级决策选择和排序记录,并在停止后调用一次冻结的生成器。对六项个性化任务的广泛实验表明,ENOUGH 在有效性和效率方面始终优于强大的启发式和检索增强基线,实现了保留个性化效用的最小足够配置文件,同时减少了不必要的上下文成本。