论文

Top-1预警失效:校准扩散语言模型LoRA训练监测

When Top-1 Fails: Calibrating LoRA Monitors for Masked Diffusion LMs

模型评测模型行为与机制分析

摘要

离散扩散语言模型微调可利用去噪置信度进行低成本监测,但其对参数高效训练的意义尚未验证。本文用top-1最大概率类别集中度预测训练崩溃。在三个模型家族的816种LoRA/PEFT配置中,全部触发预警,200步内却无实际崩溃,预警查准率为零。原因是优化前top-1集中度已较高,很快对最终稳定性失去敏感性。研究转而评估最大LoRA梯度范数,它反映参数侧的梯度传播而非词元集中度。在LLaDA家族汇总留出集上,以训练集调优阈值识别最终损失最高十分位的配置,查准率0.68、F1为0.79,即使考虑重采样置信下界仍优于全部报阳性的top-1基线。自回归对照及跨家族阈值失效将该结果限定为短程DLM-LoRA训练检查。实践建议是停止使用top-1作为PEFT告警,训练早期记录最大梯度,并按DLM家族校准阈值后再筛选运行记录。