使用 Hessian 零空间延拓遍历神经网络的解空间

在单个任务上，深度网络可以学习许多解决方案，具体取决于其优化器、训练数据、架构和超参数。其中许多解决方案都是模式连接的：它们不是权重空间中的孤立点，而是通过低损耗区域连接。然而，它们的内部计算在这些区域内如何变化尚不清楚。并行的工作已经确定了神经表示的简并性：许多网络通过不同的内部结构达到了类似的训练损失。然而，尚不清楚这些解决方案在权重空间中如何相关。我们统一了这些子领域，并首次表明权重空间中的局部模式连接区域内存在许多不同的内部机制。为此，我们引入了 Hessian 零空间连续 (HNC)，这是一种可扩展的方法，它使用局部曲率来遍历保留网络功能的权重空间区域，并且可以引导具有指定属性的解决方案。在接受记忆任务训练的 RNN 中，HNC 在保持行为的情况下达到了截然不同的表示和动态。在 ImageNet 训练的 Vision Transformers 中，HNC 发现与具有不同架构或目标的任何独立训练模型相比，与原始网络的差异更大。在强化学习Agent中，HNC 发现了一种具有可比回报的独特导航策略，并揭露了 AI 安全网格世界中的奖励作弊行为。最后，HNC 测量解决方案集的局部几何形状，显示模型大小和任务复杂性如何影响其维度和功能灵敏度。我们的结果表明，在单个经过训练的解决方案附近存在令人惊讶的大量表征多样性，这是标准的基于梯度的优化所看不到的。 HNC 识别并量化了这种多样性，为解决方案空间的机械理解以及模型合并、编辑和微调开辟了新的可能性。