Dysco：动态子空间提升可减轻联邦学习中的 LoRA 干扰

大型预训练模型的联合 微调 越来越依赖低秩适应 (LoRA) 来减少通信和计算，但异构客户端可能会使适配器聚合不稳定。我们将数据参数干扰确定为这种不稳定性的几何来源。这种干扰由 LoRA 更新子空间和客户端激活之间的对齐控制，这表明联合 LoRA 聚合不仅应被视为参数平均，而且还应被视为子空间分配。我们提出动态子空间提升（Dysco），这是一种以联合和动态方式分配客户端特定 LoRA 子空间的插件方法。在每一轮中，客户端根据本地表示计算激活不敏感的子空间并仅传输结果基数；然后，服务器通过封闭式解决方案构建特定于客户端的合并子空间，该解决方案最大限度地提高了与其他客户端不敏感方向的兼容性。为了处理表示漂移，Dysco 执行多轮子空间增强，以保留过去的更新方向，同时适应未来的表示。我们提供了一种收敛分析，将数据参数干扰作为聚合误差项嵌入标准联合优化界限中，并证明 Dysco 的服务器固定合并子空间对此误差产生更严格的上限。对受控合成联合任务和使用 Llama-3.2-1B 进行 MIMIC-IV 临床记录分类的实验表明，Dysco 显着减少了干扰，相对于理论确定的正交子空间分区下的基线，将最后一轮合成训练损失减少了多达 9 倍，在 MIMIC 上将所有五种测试的 FL 算法改进了多达 4.3%，优于最近的联合 LoRA 方法，并且仅增加了 0.9% 的挂钟开销。我们的代码可在 https://github.com/illidanlab/Dysco 获取。