论文

通过属性引导的类型扩展将创意写作扩展到以故事为中心的数据之外

Scaling Creative Writing Beyond Story-Centric Data with Attribute-Guided Genre Expansion

模型训练合成数据

摘要

大语言模型 (LLM) 的高质量创意写作数据仍然以故事为中心的数据为主,限制了模型遵循不同创意格式的结构和功能惯例的能力。我们提出了一个属性引导的类型扩展框架,用于将创意写作数据扩展到故事生成之外。通过将主题广度与流派形式控制分开,我们的框架利用人类创作的故事提示作为不同的创意种子,同时利用手动策划的流派属性来强制执行不同的结构、风格和格式约定。我们将这些结合起来,为忠实于流派的查询-响应对提示强大的 LLM,然后对其进行质量过滤。应用这个框架,我们构建了多流派集合,一个包含 5 万个示例的语料库,涵盖 13 个创意流派,包括故事、说唱、歌词、剧本、游戏设计、角色设计和其他创意格式。跨发行版写作基准和保留体裁诊断的实验表明,根据我们的数据进行微调的模型不仅持续超越基本模型和写作专业基线,而且超越基于现有写作语料库训练的模型。类型计数消融进一步表明,受控的类型扩展,而不是单独以故事为中心的扩展,是强大的创意写作能力的关键驱动力。