人工上正位：为什么大语言模型过度使用古典修辞手法，以及如何缓解它

西塞罗和昆体良在 2000 年前编录的一个修辞形象，系统地重新出现在 大语言模型 的文本中： epanorthosis，样本的自我修正 «这不是一个课程。这是一次转型之旅»。本文认为，过度使用是一种训练有素的倾向，主要是由富含促销散文的训练分布和奖励自信、强调措辞的偏好调整（RLHF）驱动的；从左到右的生成本质是放大器，而不是根本原因。基于模型与人类修辞风格不同的证据，以及丰塔尼尔将正态性作为一种思想形象的分类，它制定了一个程序，通过正态性指数（相对于人类比率的密度）根据特定流派的人类基线对人物进行评分。第一个测量是对一个指令调整模型系列的三种大小进行的测量，结果发现在两个方向上都出现了错误校准：模型在演讲中超出了范围（大约是意大利语的两倍，在意大利语中接近三倍，集中在较大的层次），而在非正式的问答写作中则低于预期，而在论证、新闻和百科全书式散文中与人类相匹配。以下是三项建设性贡献：以轻量级 LoRA 适配器为中心的缓解技术调查；用意大利语进行的演示表明，单行指令将这一数字减少了一半至近四分之三，并且受监督的 微调 适配器几乎完全消除了这一数字，并通过缩放系数将减少量重新调整回人类速率；以及目标是校准每种类型的人类比率的论点，而不是消除。它结束了：真正的风险是我们开始像机器一样写作。