论文

用于生成个性化的自适应子空间投影

Adaptive Subspace Projection for Generative Personalization

模型推理解码与生成控制

摘要

生成个性化通常会遇到语义崩溃问题(SCP),即学习到的个性化概念压倒了文本提示的其余部分,导致模型忽略重要的上下文细节。为了解决这个问题,我们首先分析根本原因,揭示导致 SCP 的语义漂移不是随机的,而是集中在特定的低维子空间内。我们还发现个性化过程扰乱了原始基本概念的嵌入,使其成为不稳定的参考点。基于这些见解,我们引入了自适应子空间投影(AdaptSP)的测试时嵌入调整,这是一种使用稳定的预训练嵌入作为锚的 无需训练 方法。 AdaptSP 隔离语义漂移并将其投影到已识别的子空间上,执行精确的调整以减轻 SCP,同时保持主体身份。我们的实验表明,这种有针对性的方法显着提高了提示保真度和上下文对齐。