论文
FedFit：通过向量库参数化和量化对大语言模型进行联合微调
FedFit: Federated Fine-Tuning of LLMs via Vector-Bank Parameterization and Quantization
摘要
联邦学习 (FL) 可以对大语言模型 (LLM) 进行隐私保护的微调，但大量的通信开销仍然是一个关键瓶颈。此外，在 FL 中应用低秩适应 (LoRA) 面临着精确的乘积和 (SoP) 与通信高效的乘积和 (PoS) 实现之间的基本“聚合困境”。为了应对这些挑战，我们提出了 FedFit。首先，为了显着减少通信开销，我们引入了不相交的共享向量库参数化，该参数化从两个紧凑且不相交的全局向量库重建高维适配器矩阵。其次，为了解决聚合困境，我们设计了交替优化计划。通过在解耦的单库更新（允许精确聚合）和由残差频谱聚合机制纠正的联合更新之间循环，我们解决了 SoP 和 PoS 之间的冲突。此外，我们将分块量化与客户端误差反馈相结合，以进一步压缩传输的向量。此外，我们为所提出的算法建立了理论收敛保证。对 Qwen2.5 模型的大量实验表明，FedFit 实现了与标准联合 LoRA 方法相当的困惑度性能，同时提供高达 100 倍的压缩比。