论文
叙事扁平化：后训练 如何压缩 LLM 小说中的主题、情感和文体变化
Narrative Flattening: How Post-Training Compresses Thematic, Affective, and Stylistic Variation in LLM Fiction
摘要
大语言模型 创作出流畅的小说，但人们普遍认为他们的创意产出平平。我们询问这种品质在训练中源自何处，以及它是否同样影响人类小说的不同领域。我们在 StoryStar（公共平台）、TMAS（即时引导）和《纽约客》（专业文学）之间构建了一个匹配的故事延续范例，并将四个 OLMo 32B 检查点（Base、SFT、DPO、RLVR）的延续与匹配的人类文本进行比较。由于这些检查点共享架构、规模、分词器和预训练，因此该设计隔离了 后训练 效应。我们沿着三个句子层面的维度来衡量每个延续：主题运动、情感普遍性和语言多样性。在这三个方面，后训练 压缩了动态变化：主题转换变得更加统一，高强度的情感让位于中性，故事之间的风格多样性缩小。我们将这种逐渐丧失的叙事称为扁平化。跨故事领域的效果在方向上是稳定的，但差距大小取决于人类基线：专业文学小说被压缩得最多，而公共平台和提示引导的故事显示出较小的差距，与更接近模型默认节奏的人类基线一致。训练后的端点跨域聚合，这表明对齐产生了一种对源域的叙述结构基本上不敏感的延续机制。