论文

指令调整模型比人类更多地本地重用人类语法

Instruction-Tuned Models Locally Reuse Human Syntax More Than Humans Do

模型评测模型行为与机制分析

摘要

句法趋同(说话者在语言中适应对话者语法特征的倾向)是人类对话的一个有据可查的特征,被广泛认为是在有意识的意识下运作的。 大语言模型 相对于人类基线以及广泛的句法结构是否对人类用户表现出类似的句法收敛仍然是一个悬而未决的问题。这项研究使用替代范式数据(其中模型生成取代了预先存在的人类对话中一个说话者的轮次),测量了 16 个开放权重 Llama 和 Gemma 模型(1B-70B,预训练和指令调整)中上下文无关语法 (CFG) 规则的轮次重复重用,每个模型有 1,901 个匹配位置。每个模型都显示出与前一个人类轮次相比,与采样的不相关的人类素数有更大的 CFG 规则重叠,并且在每个模型中,对于较低频率的规则,这种实际与随机差异更大。每个指令调整模型还显示出与实际素数的自然输出重叠比它所取代的人类响应更大,并且所有八个匹配的架构对在指令调整后都表现出更大的实际素数重叠。然而,相对于预训练的变体,指令调整的输出与不相关的素数重叠更多,显示出较小的实际增量与随机增量,并且一旦目标规则集大小保持不变,则条件规则重用几率较低。在探索性分析中,每个模型与前一个回合的平均词汇和语义相似度比匹配的人类反应更大。在所有八个架构对中,指令调整模型还产生了比预训练模型更大的平均语义相似度的响应,而词汇相似度结果则更加异构。