LESSER：用输出层梯度做后训练数据选择

后训练数据的选择实质影响LLM下游性能。基于梯度的数据选择是流行方法——按训练数据梯度与小验证集梯度的对齐程度排序。但用全参数梯度排序需要对每个样本做昂贵的反向传播，使大候选池的计算难以处理。这引出自然问题：能否以零头成本近似全梯度特征？便利的是我们发现输出层梯度足以支撑有效数据选择，却只需更便宜的前向传播。我们将其实现为LESSER——选择方法的即插即用包装器：把SFT的特征提取FLOP成本降低9.7倍、RL基准降低3.0倍，同时在下游任务上紧跟全梯度性能。经验上我们发现即使输出层与全梯度对单个样本的排序不同，它们选出的批次梯度是对齐的。