超越重要性：Interchange-Sobol 敏感性揭示了 Transformer 组件中特定于任务的内容通道

机械可解释性方法通过单个重要性得分来总结 Transformer 组件，合并两个不同的角色：组件可能很重要，因为它传输与任务相关的内容，或者因为当其贡献被删除时，前向计算会降级。我们引入了 \emph{Interchange-Group Sobol Decomposition} (IGSD)，这是一种配对干预框架，它将匹配的激活替换与同一组件上的零消融进行比较，估计两个 Sobol 式方差指数，并使用它们的符号差来区分这两个角色，并通过对称的非流形诊断 $\widehat{\mathrm{ST}}>1$ 来监控干预有效性。事实上，IGSD 在 GPT-2 小和 Qwen2.5-1.5B 中都识别出了标准重要性方法低估的早期层内容通道。受控主题和关系供体设计表明，早期通道传输关系框架内容，而后期注意力传输主题检索内容，将头部粒度细化为已知的 $\mathrm{Attn}_{L9H8}$ 头部。后期层钳位确认早期信号是通过下游变换而不是残余传递来表达的。这些结果表明，替换和删除不是可互换的控件，它们的差异为 Transformer 组件中的内容传输提供了实用的统计诊断。