语言模型中层次概念的线性表示

我们研究层次关系（例如，日本 $\subset$ 东亚 $\subset$ 亚洲）如何以及在多大程度上被编码在语言模型的内部表示中。基于线性关系概念，我们训练特定于每个层次深度和语义域的线性变换，并通过比较这些变换来表征与层次关系相关的表征差异。我们的分析超越了语言模型中层次结构的表征几何的先前工作，涵盖了多词元实体和跨层表征。在多个领域中，我们学习此类转换并评估对未见过的数据的领域内泛化和跨域传输。实验表明，在一个域内，可以从模型表示中线性恢复层次关系。然后我们分析层次信息如何在表示空间中编码。我们发现它被编码在一个相对低维的子空间中，并且这个子空间往往是特定于领域的。我们的主要结果是，层次结构表示在这些特定于域的子空间中高度相似。总的来说，我们发现实验中考虑的所有模型都以高度可解释的线性表示的形式编码概念层次结构。