论文
大语言模型 中的语言生产力:模型强制,但不抢占
Linguistic Productivity in Large Language Models: Models Coerce, but do not Preempt
摘要
基于用法的语法理论认为,语言结构的创造性生产力既受到两种不同频率信号的支持,又受到两种不同频率信号的限制:源于高频使用的巩固,以及源于从未在人们可能期望该结构出现的上下文中观察到特定语言结构的先发制人。 大语言模型 也是基于用法的,即语言结构是通过接触大量文本来学习的。在这里,我们测试了 LLM 中巩固和抢占的相反统计力量是否也鼓励和限制语言生产力。我们跨模型架构证明,在强制情况下,较大的模型可以识别并可以用随机数词重现构造生产力(巩固),其中更广泛的构造上下文强制对词汇项的非典型解释。然而,我们还表明,即使是最大的模型也不会将负面证据扩展到新语言,并且统计先发制人并不能使模型避免对语义上恰当但从未在数据中观察到的模式的过度概括。