论文

少样本作者风格的转向向量与LoRA权重预测

Predicting Steering Vectors and Adapter Weights for Few-Shot Author-Style Transfer

模型训练参数高效训练

摘要

仅凭少量示例将大型语言模型适应到个人作者风格很困难,科学写作尤其如此:正式规范限制表面变化,而作者写自己的主题,提取的“风格”容易与内容纠缠。我们研究每位作者少量示例摘要条件下的风格化摘要生成,并提出三种方法:对比激活转向、预测转向向量的网络、预测LoRA适配器的超网络。我们发现风格模仿与输出质量之间存在一致取舍:微调获得大部分可用风格信号,却损失流畅性;超网络在已见和未见作者上均取得最佳取舍。转向在作者层面进行,把作者摘要与相同内容的风格中性生成对照,从而固定主题、无需预定义风格清单,并优于基于清单的转向。分析还显示,人工提取与预测的转向向量近正交,却获得相近分数,说明这里至少存在两个无关的风格条件方向,而非必须沿某个特定轴。