论文

基于文本和基于音频的语言模型中动词+向上短语的整体存储

The Holistic Storage of Verb+Up Phrases in Text-based and Audio-based Language Models

模型评测模型行为与机制分析

摘要

语言处理最核心的方面之一是在存储的表示和抽象知识之间进行权衡的能力:人们必须检索存储的表示,但也可以通过应用生产性规则生成新的表示。虽然最近的工作研究了语言模型中的抽象知识,但整体存储受到的关注要少得多。我们探究基于文本的 LLM 和 ASR 模型中的内部表示,测试 V+up 短语动词是否根据频率和可预测性开发出不同的表示。所有模型都显示出由频率和可预测性驱动的整体存储的证据,进一步支持基于使用的语言理论。