论文

小就足够了:通过 LoRA 适配器按用户风格重写人工智能编辑的文本

Small Is Enough: Per-User Style Rewriting of AI-Edited Text via LoRA Adapters

应用与实践内容创作

摘要

InMyStyle 是一个隐私优先的单用户系统,它采用小型语言模型,将人工智能编辑的文本重写为个人用户的写作风格,而无需推理时的指令提示。给定用户文档,它使用多个本地帮助器 LLM 构建配对训练示例,并在 Qwen2.5 模型上微调 LoRA 适配器,参数范围从 0.5B 到 7B。长度感知的生成预算和自动分块支持不同长度的输入。我们报告了一个单用户案例研究:从一位作者的科学写作的 73 段中得出 219 个评估对,所有适配器都使用相同的 8 级、三个时代的配方进行训练。在贪婪和采样解码下,自动综合得分(0-1 等级)在模型大小上保持稳定($Q=0.689$-$0.695$,具有重叠的置信区间)。在这种情况下,小模型足以完成测量的重写任务,并且模型大小主要决定效率权衡而不是稳定的质量排名。与恢复个人风格相比,这些收益更有利于内容保留的归化,作者概率保持在分类器的决策边界(0.51--0.53)附近,风格改进接近于零。作为二次评估,来自 5 位 LLM 评委的 400 个评分给出的 InMyStyle 输出的平均感知 AI 得分比其帮助者生成的输入低 20% 以上,并且得分随着样本中模型大小的增加而降低。该研究并未对用户进行概括。