论文

TRACER:生成推荐中概念 ERasure 的词元重新分配

TRACER: Token ReAssignment for Concept ERasure in Generative Recommendation

模型训练模型编辑与遗忘

摘要

生成推荐将下一项预测制定为从用户历史交互中派生的语义 ID (SID) 序列的自回归生成,使现代推荐系统在结构上类似于 大语言模型 (LLM)。随着隐私和安全问题的增长,这些系统越来越需要概念忘却,以消除与项目相关的敏感或有害概念。然而,现有的 LLM 去学习方法不能直接应用于生成推荐。与具有明确语义的单词标记不同,SID 是抽象标识符,通常由遗忘项和保留项共享,导致概念删除和推荐效用保留之间存在严重冲突。为了应对这一挑战,我们提出了 TRACER,一种基于词元重新分配的端到端概念遗忘框架。 TRACER 不是直接抑制共享 SID,而是将概念相关项目重新分配给替代标记,以更好地促进遗忘,同时最大限度地减少对保留项目的副作用。我们进一步引入了一个一致性正则化器,以在取消学习期间保持保留项之间的语义一致性。对现实世界推荐数据集的实验表明,TRACER 有效地删除了目标概念,同时比现有的不学习基线更好地保留了推荐效用。