注意力头中经过闭合验证的电路发现：共同激活提议，消融处置

可解释性越来越多地将组件组而不是单个单元视为基本对象，并建议通过聚类共激活统计来找到它们。我们想知道这样一个廉价的信号是否真的可以识别注意力头电路。将稀疏自动编码器聚类方法适应注意力头——但通过因果消融而不是重建进行验证——我们对头进行聚类，然后运行封闭测试：消融发现的社区并将每个示例的损坏与匹配的随机控制进行比较。在两个密集的 1B 规模模型（Pythia 1B、OLMo 1B）和两个输入分布中，社区通过封闭。在专家混合模型 (OLMoE-1B-7B) 中，路由条件聚类恢复了统计上的真实信号，但该信号无法在闭合中幸存 - 消融会改善损失，方向错误。将封闭范围扩大到训练、注意力目标选择性和参与率在两个方向上与功能脱钩。我们得出的结论是，便宜的信号是电路建议，而不是已确认的电路；关闭是他们分开的原因。