无需训练词元级 LLM 个性化共同写作的指导

摘要

虽然大语言模型 (LLM) 在个性化方面表现出巨大的前景，但它们通常缺乏专业的领域知识。微调等传统解决方案面临着高计算成本和快速数据更新的问题，而检索增强生成无法提供细粒度的词元级指导。此外，基于聊天的界面仍然占主导地位，而富有成效的共同写作范式尚未在编码领域之外得到很好的利用。为此，我们推出了 SteerWrite，一个专为个性化共同写作而设计的无需训练框架。我们的方法有效地将基本模型适应专门领域，无需梯度更新，并针对小型数据集进行特定设计。实验表明，SteerWrite 在不同的数据集、指标和模型中实现了最先进的性能，显着减少了人工编辑工作。