NoiseRater：扩散的元学习噪声评估 模型训练

训练扩散模型涉及每个数据样本的两个随机源：时间步长和高斯噪声实现。时间步长已经通过调度和加权进行了广泛的研究，而给定时间步长的噪声实现的影响仍未得到充分探索。在这项工作中，我们检查不同的噪声实例是否具有同等的信息量。我们引入了 NoiseRater，这是一个根据数据样本和时间步长对单个噪声实例进行评分的网络。评估器是通过双层优化来学习的，其分数重新加权内循环中的扩散损失，并且在内循环更新后进行更新以减少验证损失。使用训练有素的评估者来选择训练噪声，我们观察到训练噪声的三个属性。首先，同一时间步长的噪声实现并不同样有用：评估者得分最高的噪声比独立同分布\采样提高了性能，而得分最低的噪声则降低了性能。其次，该实用程序是上下文相关的，共同取决于图像、类别和时间步长。第三，噪声选择是对时间步级设计的补充，与现有的调度和加权方案结合时保留其大部分增益。这些发现将实例级噪声评估确立为理解和改进扩散训练的新轴。代码可在 https://github.com/JoeZhao527/Noise-Rater 获取。