TLoRA+：大语言模型 的低秩参数高效 微调 方法

微调 大语言模型 (LLM) 旨在使用相对较小且特定领域的数据集使预训练模型适应特定任务。在参数高效的 微调 (PEFT) 方法中，低秩适应 (LoRA) 因其与完整 微调 的性能相匹配而脱颖而出，同时避免了额外的推理延迟。在本文中，我们提出了一种新颖的 PEFT 方法，它将 TLoRA+ 优化器合并到预训练模型的权重矩阵中。所提出的方法不仅保留了低秩自适应的效率，而且在不显着增加计算成本的情况下进一步增强了性能。我们在不同模型架构的 GLUE 基准上进行了实验。数值实验一致证明了我们提出的方法的有效性和鲁棒性。