开源项目

model_brain_surgery:本地Transformer权重定向消融工具

goldenplums2003/model_brain_surgery

模型训练模型编辑与遗忘

概述

model_brain_surgery 是一个独立开发的工具,面向本地 Transformer 模型的权重定向消融:定位并修改模型内部的特定权重成分,再观察输出行为的变化,可用于分析知识存储位置、幻觉来源或安全相关的内部机制。整个流程在本地模型上完成,不依赖云端推理接口,适合做模型内部机制研究的场景。