论文
基于多轨迹推理的稀疏个性化文本生成
Sparse Personalized Text Generation with Multi-Trajectory Reasoning
摘要
随着大语言模型(LLM)不断进步,个性化已成为让输出贴合单个用户需求的关键机制。然而,大多数现有方法严重依赖密集的交互历史,使其在此类数据稀疏或不可得的冷启动场景中失效。虽然外部信号(如相似用户的内容)可以提供潜在补救,但有效利用它们仍然充满挑战:原始上下文往往充满噪声,且现有方法难以对异构数据源进行推理。为解决这些问题,我们提出PAT(Personalization with Aligned Trajectories),一个面向冷启动LLM个性化的推理框架。PAT首先沿两条互补轨迹检索信息:来自文风相似用户的写作风格线索,以及来自偏好一致用户的主题相关上下文。随后它采用基于强化学习的迭代式双重推理机制,使LLM能够联合精炼并整合这些信号。在多个真实世界个性化基准上的实验结果表明,PAT在稀疏数据条件下持续提升生成质量与对齐度,为冷启动个性化问题确立了一个强有力的解决方案。
