剩余铺路：诊断选择性拒绝编辑中的布线瓶颈

我们将选择性拒绝编辑作为三向控制问题进行研究：在指定的编辑提示上诱导不拒绝，同时保留编辑集之外的良性行为和有害拒绝。我们引入了 Residual Paving，这是一种针对冻结指令调整的 Transformer 的路由残留编辑方法，它将路线选择性（是否干预）与残留编辑能力以及要应用的编辑分开。早期层路由器预测标量门和专家混合；当活跃时，即时条件瓶颈残差专家应用后面层残差更新，同时保持骨干网不变。这种分解支持预言机路由诊断，其中仅将学习到的标量门替换为保留的编辑/保留标签，从而使剩余编辑器和冻结主干保持固定。在主要的 Gemma-3-4B-IT 保留分割上，学习的 Residual Paving 将编辑拒绝率从 88.6% 减少到 4.0%，良性分布保留率为 95.5%，有害分布保留率为 87.3%。相同协议单向转向控制对编辑成功率的影响要弱得多，编辑目标 ActAdd 的编辑拒绝率为 86.8%，DIM 式拒绝转向的编辑拒绝率为 78.9%。剩下的失败是偏离目标的有害保留降级：有害拒绝仍然低于冻结基准率，分别为 65.3% 和 81.6%。在六个主干网中，预言机路由提高了每个报告行的保留端诊断分数，中值增益 +12.9 pp，支持了学习路由选择性是主要观察到的瓶颈的解释。两个主干上的轨迹诊断进一步表明朝着编辑目标延续的定向运动，而不是一般的拒绝抑制。