论文
JevSoup:无需训练地路由并组合两个 LoRA 专家
JevSoup: System-One Routing for Training-Free LoRA Composition
摘要
构建适应性强的人工智能系统需要跨不同任务的专业能力的有效协调。低秩自适应 (LoRA) 支持模块化专业知识,但现有路由方法可能需要辅助数据、额外训练或自回归解码。我们提出了 JevSoup,这是一种无需培训的框架,将系统一专家路由与系统二执行分开。 Jev 仅使用输入和专家描述,通过结构化概率选择两名专家。 JevSoup 保留领先专家的更新,将第二个更新投影到第一个更新的行空间的正交补集上,并以相等的权重将它们组合起来。在 14 个 Portal 任务和 3 个 Qwen3模型规模中,JevSoup 与最强评估的外部基线相比,在任务宏观精度和样本微观精度方面实现了高达 1.19和1.21个百分点的绝对增益。我们的代码可在 https://github.com/Leowang980/JevSoup 获取。
