论文

构建稀疏性：块稀疏特征器捕获视觉概念流形

Structuring Sparsity: Block-Sparse Featurizers Capture Visual Concept Manifolds

Thomas Fel; Matthew Kowal; Mozes Jacobs; Dron Hazra; Usha Bhalla; Lee Sharkey; Lucius Bushnaq; Satchel Grant; Tal Haklay; Thomas Icard; Can Rager; Michael Pearce; Daniel Wurgaft; Aiden Swann; Fenil Doshi; Siddharth Boppana; Curt Tigges; Nick Cammarata; Thomas Serre; Vasudev Shyam; Owen Lewis; Thomas McGrath; Jack Merullo; Ekdeep Singh Lubana; Atticus Geiger来源日期：2026.06.24

模型评测模型行为与机制分析

摘要

视觉感知的几何形状是什么？最广泛使用的将神经网络表示分解为可解释部分的协议将概念视为孤立的方向，但最近的工作表明，概念通常被实现为激活空间低维区域中的几何结构。我们转向结构化稀疏性的文献来缩小这一差距，并表明块稀疏性（将方向分组为块）是与生成模型的先验匹配，其中表示是低维流形的稀疏总和：视觉神经科学中经典思想的现代学习形式，其中视觉特征由一组协调的神经元而不是单个调整的神经元携带。我们实现了块稀疏特征器（BSF）的三种变体，并通过最小描述长度分析表明，这三种特征器都比基于方向的特征器更紧凑地描述了激活，恢复的概念通常是二维到四维的。然后，我们使用 BSF 来 (i) 重新关联之前的工作，表明 InceptionV1 中的曲线检测器实际上是从单个连续曲线流形读取的，(ii) 发现新的流形，包括 DINOv3 中的阴影和照明，以及 (iii) 通过流形控制支持扩散模型 (SDXL) 中图像生成的可解释控制。