经角度-范数分解的激活转向几何解释

线性激活控制作为控制语言模型行为的一种简单且凭经验有效的方法而受到欢迎。最近，球形转向范式被提出来解决附加干预的局限性，通常是由于隐藏状态规范不携带概念相关信息的假设而激发的。在这项工作中，我们通过受控实证研究重新审视这一假设，旨在理清角度和径向分量的作用。我们表明，转向方法的不同之处主要在于它们如何耦合两种几何效应：改变标记与概念方向的角度对齐以及改变其隐藏状态范数。在七种语言模型中，我们发现概念主要以角度结构表示，支持球形方法的动机，但该规范对于转向的稳定性和下游效果仍然很重要。我们的结果解释了为什么具有相似概念级效应的干预措施可能表现不同，并表明激活转向应该通过干预的可解释的角度和径向分量来参数化，而不是通过纠缠这两种效应的单个加性系数来参数化。