论文
FedProxy：通过代理 SLM 和异构感知融合联合 LLM 的 微调
FedProxy: Federated Fine-Tuning of LLMs via Proxy SLMs and Heterogeneity-Aware Fusion
摘要
大语言模型 (LLM) 的联合 微调 受到三难挑战的阻碍：保护 LLM 知识产权 (IP)、确保客户端隐私以及减轻异构数据的性能损失。 Offsite-Tuning (OT) 等现有方法通过让客户仅训练轻量级适配器来保护 LLM IP，但我们的分析表明它们存在基本性能瓶颈，与集中训练相比存在显着差距。为了弥补这一差距，我们引入了 FedProxy，一个新的联邦适应框架。 FedProxy 使用统一、强大的代理小语言模型 (SLM) 替换弱适配器，该模型由专有的 LLM 压缩而成，可作为协作 微调 的高保真代理。我们的框架通过三阶段架构系统地解决了这个三难困境：（i）通过服务器引导的压缩进行高效表示，以创建资源友好的代理； (ii) 通过干扰减轻聚合策略进行鲁棒优化来处理数据异构性； (iii) 通过 无需训练“插件”机制轻松融合，将学到的知识整合回 LLM 中。实验表明，FedProxy 的性能显着优于 OT 方法和集中式性能方法，为安全和高性能联邦 LLM 适应建立了新的基准。