开源项目
huggingface/peft:参数高效微调(PEFT)方法库
huggingface/peft
概述
PEFT库由Hugging Face团队维护,采用Apache 2.0许可。PEFT只微调少量(新增)参数即可让预训练模型适配下游任务,显著降低计算与存储开销,最新的参数高效微调方法已能达到与全量微调相当的效果。库与Transformers集成用于模型训练与推理,与Diffusers集成管理各类adapter,并通过Accelerate支持超大规模模型的分布式训练与推理。README提供安装、训练与推理代码;本次稳定版显著扩展了可复用训练方法与适配机制。