论文
FAVoR:联邦参数高效微调保留作者风格
FAVoR: Measuring and Mitigating Author-Style Homogenization in Federated Personalized Generation
摘要
大型语言模型越来越多地用作个性化写作助手,但在许多作者之间调整模型可能会通过将作者特定的信号拉向共享语体来损害个人的写作风格。联邦参数高效微调(PEFT)为这种多作者适应问题提供了数据本地设置:客户端将作者文本保留在本地,同时共享紧凑的适配器更新。然而,我们表明,标准聚合可以保留延续效用,同时使不同作者的生成内容在风格空间中难以区分,我们将这种失败模式定义为作者风格同质化。我们通过基于 Angular Style Classification Encoder (ASCE) 的诊断,在我们的主要 BlogText 基准测试和独立于 ASCE 的外部作者身份验证上评估作者风格保留。使用该协议,我们发现常见的联邦 PEFT 基线可以保留语义实用性,同时平均作者特定的信号。为了解决这种同质化问题,我们实例化了 FAVoR(联邦作者语音保留),这是一种联邦 PEFT 的作者式残差机制。 FAVoR 使用共享-私有适配器设计:客户端上传共享适配器更新,同时在本地保留特定于作者的剩余更正。在 BlogText 和外部 Mythos-Reddit 验证中,FAVoR 比标准和个性化联邦 PEFT 基线提高了作者风格的保留。这些收益伴随着小的续写效用权衡,并得到组件消融、外部验证和冷启动传输的支持。
