论文

PlanE:面向抽取式LLM的数据、调优与推理元规划

PlanE: Meta Planning of Data, Tuning, and Inference for Extractive-based LLMs

模型训练监督微调与指令调优

摘要

增强大语言模型(LLM)的任务专属能力主要需要大量指令微调数据。但这种数据的体量带来可观的标注成本,且缺乏把LLM量身适配到特定任务的优化方法。为解决上述问题,我们提出PlanE——一个构建抽取式LLM的规划框架,包括数据分解、指令微调与提示推理。此外,我们引入数据—调优—推理(DTI)规划器:为特定数据集选择最优基座LLM及其DTI组合以提升构建效率。实验结果从两个视角证明PlanE的有效性:(1)同一基座LLM跨不同数据集;(2)同一数据集跨不同基座LLM。我们还验证了所提DTI规划器在不同优化目标下的泛化性。代码公开于https://github.com/gugugu-469/PlanE。

PlanE:面向抽取式LLM的数据、调优与推理元规划:论文配图
图2:PlanE的框架。