SALD：扩散模型的自参考优势学习

最近关于语言模型适应的工作表明，在由学生学习的参数驱动的教师网络的帮助下，单个模型可以通过评估其在演示或反馈增强环境中的行为来获得信息丰富的训练信号。受这种内部参考原理的启发，我们研究了扩散模型如何在没有外部演示或教师网络的情况下识别自参考训练信号。我们引入 SALD，这是一个自参考训练框架，它使用相同的模型在两个噪声级别评估每个图像标题对。比较容易、噪声较低的路径在没有梯度跟踪的情况下进行评估以提供参考，而较困难、噪声较高的路径则提供训练梯度。 SALD 不是直接提取简单路径预测，而是使用两个路径误差之间的差异来适应困难路径目标。所提出的优势引导扩散（AGD）将此相对误差转换为可微分的样本级权重。时间优势记忆（TAM）在训练过程中积累相对难度，并适应两个噪声水平之间的未来差距。频谱优势分解（SAD）进一步比较两条路径的残余功率谱，并构造可微的、由频率导出的潜在元素权重。所有组件共享一组模型参数，在训练或推理过程中既不需要外部教师网络也不需要额外的可训练参数，并且无需修改推理过程。跨多个架构和数据集的实验证明了生成质量的持续改进，而组件方面的消融则量化了所提议组件的贡献。