PEML：具有优化连续提示的参数高效多任务学习

参数高效的 微调 (PEFT) 广泛用于使 大语言模型 (LLM) 适应各种任务。最近，对 微调 的需求不断增加，单个 LLM 用于多个任务，因为由于任务之间共享的共同功能，微调 所需的数据总体较少。更重要的是，LLM对资源要求较高，为多个任务部署单个模型有利于资源整合，并且与为每个任务部署单独的大型模型相比，消耗的资源要少得多。 LoRA 和 Prefix Tuning 等现有 PEFT 方法旨在使 LLM 适应特定任务。 LoRA及其变体侧重于模型本身与任务的匹配，忽视了提示调优在多任务学习中的重要性，而Prefix Tuning仅采用简单的架构来优化提示，这限制了多任务的适应能力。为了使 微调 能够高效地进行多任务学习，及时优化和模型自适应的协同优化非常重要。在这项工作中，我们提出了一种参数高效的多任务学习（\PM），它采用神经架构工程方法来优化连续提示，同时还对模型权重执行低秩自适应。我们通过创建一个自动化框架来优化连续提示和调整模型权重，从而对 PEML 进行原型设计。我们根据最先进的多任务学习方法 MTL-LoRA、MultiLoRa、C-Poly 和 MoE，在 GLUE、SuperGLUE、大规模多任务语言理解和常识推理基准上评估 PEML。评估结果显示平均准确度提升高达 6.67%，个别任务的峰值提升高达 10.75%。