FedSubMuon：通过结构化子空间 Muon 实现高效通信的联合 LLM 微调

联合微调将大语言模型（LLM）适应分散的客户端数据，但其跨设备训练的可扩展性往往受到高通信成本的限制。 Muon 是一种优化器，通过正交化矩阵值参数的动量来提高优化性能。现有的联邦 Muon 方法展示了联邦学习中矩阵感知优化的优势，但仍然需要传输完整的层大小更新和优化器状态。减少通信的一种自然方法是直接将 Muon 应用于 LoRA 因子，但这会改变优化对象并削弱 Muon 的矩阵感知更新几何结构。我们提出了 FedSubMuon，一种通信高效的联邦 Muon 微调 方法，可优化共享结构化子空间内的紧凑系数矩阵。这种设计使 Muon 保持在单个矩阵值可训练对象上，同时减少客户端上传到紧凑系数矩阵的数量。我们进一步介绍了 FedSubMuon-GT，这是一种面向精度的扩展，它使用投影梯度使跟踪的子空间基础适应任务相关的梯度方向。指令调优和数学推理实验表明，FedSubMuon-GT 在五个数据集模型对中的四个上实现了最佳总体准确度，而 FedSubMuon 在所有匹配的通信预算下表现最佳。在 Dolly-15K 上，最近的通信基线需要的总通信量分别是 Llama-1B 和 Qwen-4B 的 5.5 倍和 1.4 倍。