SemiAdapt-Instruct：通过潜在域专用适配器进行可扩展指令调整

经过指令调整的 LLM 被部署到领域不断发展的环境中，但在没有完全重新训练的情况下扩展微调模型的功能仍然是一个尚未解决的实际挑战。我们提出了 SemiAdapt-Instruct，这是一个模块化框架，可以发现潜在指令域，并行训练每个域 LoRA 适配器，并执行无参数路由，通过单适配器训练合并新域，而无需修改现有组件。 SemiAdapt-Instruct 在 ROUGE-L 和 LLM 作为法官评估的所有配置上均优于完整模型 微调，同时匹配单个 LoRA 微调 并提供整体方法无法提供的可扩展性。我们通过证明使用新域数据更新单个适配器优于所有整体基线来凭经验证明这种可扩展性。我们的研究还发现，独立的发现方法集中在相同的专业化友好领域。这些发现表明，将异构指令数据分解为潜在域可以实现可扩展的 NLP 系统，其中不断发展的域仅需要有针对性的单适配器更新，从而无需完整的模型重新训练。