SSR-Merge：扩散模型中 无需训练 LoRA 合并的子空间信号路由

低秩适应 (LoRA) 合并可以有效地将多个经过训练的 LoRA 的不同生成能力结合起来，形成扩散模型。然而，现有的LoRA合并技术经常遭受严重的参数干扰，导致共享参数空间中的破坏性冲突。为了解决这个问题，我们提出了子空间信号路由（SSR），它通过路由内部信号而不是执行参数空间合并来解决干扰。具体来说，SSR 首先通过沿秩维度连接候选 LoRA 来构建统一的子空间。接下来，SSR 采用逆相关矩阵来解相关该空间内的混合信号。最后，定向引导矩阵将这些纯化的信号引导到各自的特定任务子空间中。我们提供严格的理论分析，证明 SSR 与普通最小二乘法 (OLS) 解决方案一致，从而确保数学最优性。我们利用足够的统计数据的可加性来设计流算法。这可以实现动态更新，从而显着减少内存开销和计算时间。大量实验验证了 SSR 显着优于最先进的方法，同时保持了相当的效率。代码可在 https://github.com/nagara214/SSR-Merge 获取。