A帮助B，而B伤害A：指令调整混合物中的定向转移

将语言模型适应专门的语料库意味着在固定预算下选择要训练的指令调整任务，而测试一个选择需要进行微调运行。常见的启发式方法会添加更多源任务或选择与目标相似的源。第一个假设转移永远不会是负的；第二，它是对称的。我们证明这两个假设都失败了：任务 $A$ 可以帮助任务 $B$，而 $B$ 会伤害 $A$，因此有用性是有序源-目标对的签名属性。我们引入了转移图，这是对每个来源对每个目标的帮助或伤害程度的签名估计。我们在 Qwen3 和 Mistral 模型上从 0.6B 到 32B 参数进行数百次微调运行来拟合该图，所有源均来自一个语料库，并且没有来自目标的训练示例。该地图预测了未见过的混合物的保留目标的准确性：在这些运行之前记录，其预测的误差不到与混合物无关的基线的一半。该地图特定于其目标和语料库，但可以跨模型规模转移：预先选择的一种尺寸的混合物胜过我们测试的所有其他尺寸的所有源任务的训练。因此，传输是数据的一个属性。该地图选择有帮助的任务并放弃干扰的任务：推理目标（因果解释、多跳问题和方法论批判）的准确性比所有源任务的训练提高了 14 个百分点。