动态去中心化 LoRA 微调的优先级感知学习-忘却校正

摘要

随着大语言模型 (LLM) 越来越多地部署在网络边缘以提供普遍的生成式 AI 服务，去中心化联邦学习 (DFL) 通过参数高效更新的点对点交换，为隐私保护、特定领域的微调提供了重要的机制。然而，实际的去中心化边缘网络的动态特性（设备可以动态地加入或离开协作训练过程）要求系统不断适应新数据，同时有选择地删除先前的贡献。这种校正过程仍然是一个重要的瓶颈，因为各个设备的更新深深地纠缠在全局微调参数中。为了应对这一挑战，我们提出了一种基于正交 LoRA 的优先级感知学习-忘学习校正框架，可以通过拓扑调整来增强知识评估。具体来说，我们首先设计了一个正交 LoRA 机制，该机制产生后训练贡献坐标，从而能够根据成员资格变化进行无历史投影添加和删除。然后，我们分析校正瓶颈并开发一种优先级感知策略，根据主导残差项在拓扑细化、局部校正、近端阻尼和同步调度之间进行选择。进一步开发了资源分配算法来跨层组分配有限的通信，优先考虑每轮无线约束内的主要瓶颈。实验表明，所提出的框架对设备加入和离开事件实现了强大的事件后校正，并验证了不同的剩余机制需要不同的校正操作。