语言模型中关系绑定的基于单元的表示

理解话语需要跟踪实体以及它们之间的关系。虽然 大语言模型 (LLM) 在关系推理方面表现良好，但它们绑定实体、关系和属性的机制仍不清楚。我们研究了话语级关系绑定，并表明 LLM 通过基于单元的绑定表示（CBR）对其进行编码：一个低维线性子空间，其中每个“单元”对应于一个实体-关系索引对，并且在推理过程中从相应的单元中检索绑定属性。使用用实体和关系索引注释的受控多句子数据，我们通过使用偏最小二乘回归从属性标记激活中解码这些索引来识别 CBR 子空间。跨域和两个模型系列，索引是线性可解码的，并在投影空间中形成网格状几何形状。我们进一步发现上下文特定的 CBR 表示通过激活空间中的翻译向量相关，从而实现跨上下文迁移。最后，激活修补表明，操纵这个子空间会系统地改变关系预测，并且干扰它会破坏性能，从而提供了 LLM 依赖 CBR 进行关系绑定的因果证据。