CPA以反事实最小差异样本改善小模型的逐项评判

Agentic 系统越来越多地通过逐点判断来控制各个步骤，根据标准对响应进行评分。小语言模型对于这个角色很有吸引力，因为它们可以被高效部署并针对任务专门训练。这样的判断必须找到标准的决策边界，但逐点标签在微调中无法确定该边界：对不同查询的标记响应在多个维度上同时不同，因此它们无法揭示哪些特征决定标签。我们引入了 CPA（反事实成对增强），这使得训练中的决定性差异变得明确。对于每个逐点样本，CPA针对同一查询合成并审核预期具有相反标签的反事实回答。它将接受的对构建为成对任务，询问两个响应中哪一个满足标准。该裁判在逐点和成对数据集上联合进行微调，并仅以逐点模式部署。二阶分析表明，何时这应该优于合并单独训练的点式和成对专家的流行策略：合并将每个参数方向以相同的分数向成对专家移动，而联合训练可以在成对损失平坦的地方保持点式最优，并在尖锐的地方吸收其曲率。这就是 CPA 的同源、反事实最小成对观点旨在产生的机制。在针对六个二元标准的单独 Qwen3-8B LoRA 适配器上，CPA 将标准平均逐点宏 F1 比仅逐点训练提高了 2.5个百分点，并且在每个测试合并权重的所有六个标准上优于模型合并。它还超过了我们评测的最强零样本前沿裁判模型Gemini 3.6 Flash 11.8个百分点。