PermDoRA——理解语言模型中的适配器干扰：参数空间几何的限制

大语言模型 (LLM) 中的访问控制需要模块化机制来实现特定于域的行为，而无需重新训练或跨域干扰。一个常见的假设是，适配器组合过程中的干扰是由线性参数更新的重叠引起的，这表明强制正交性或方向独立性应该可以提高多域性能。我们使用 DoRA-RBAC 来测试这个假设，DoRA-RBAC 是一种基于权重分解的低秩自适应的分层适配器组合框架。我们将传统的欧几里德合并与几何感知黎曼启发的合并策略进行比较，该策略通过 LLaMA-3.1-8B 和 Mistral-7B 上多个 QA 基准（GPQA、PubMedQA、SimpleQA、WMDP）的归一化方向平均来近似 Frechet 均值。我们的结果表明，虽然单域性能与 LoRA 相匹配，但与多域设置中的标准平均相比，几何感知合并并没有提供一致的优势。诊断分析进一步表明，适配器更新的角度对齐和正交性是组合性能的弱预测因素。这些发现表明，适配器干扰主要不是由参数空间几何形状控制的，而是与共享非线性表示中的相互作用一致。