BrainSurgery：用于模型编辑和升级的可重复且可靠的声明性权重操作

随着深度学习模型的扩展，管理、检查和修改大型检查点变得越来越具有挑战性。研究人员经常需要更改模型权重以进行层重组、精密铸造、低秩分解和架构调试，但这些工作流程通常依赖于脆弱的临时 Python 脚本。在这里，我们介绍 BrainSurgery，这是一种在神经网络检查点上进行稳健且可重复的“张量手术”的工具，并提供了涵盖从模型升级到 LoRA 提取的四个示例和三个案例研究的系统演示。通过抽象存储格式和内存管理，BrainSurgery 通过声明性 YAML 计划执行复杂的转换。它通过表达性正则表达式和结构目标支持结构修改、数学转换和张量重塑，同时内置断言验证张量形状、数据类型和值以防止无声错误。我们预计 BrainSurgery 将通过其可重复和经过验证的操作为未来的研究提供坚实的基础。