扩散随机采样的PI步长控制与共享固定调度

扩散模型依赖需要时间离散化的数值求解器，离散化显著影响采样成本与质量之间的取舍。但逆过程的计算难度沿采样轨迹及不同数据分布变化，因此离散化选择很重要。我们将比例—积分（PI）步长控制引入扩散，使用扩散噪声归一化误差估计器。不同于只响应当前误差的已有自适应方法，PI求解器还结合前一步误差，使步长变化更平滑。我们进一步表明，逐样本轨迹有共享结构，可聚合成固定调度并保留大部分自适应收益。我们在自然图像和语言数据集上，以匹配神经网络评估次数（NFE）下的FID等质量指标比较两种方案与常用随机求解器和调度。对于图像，固定离散化用于随机Heun求解器时，比常用EDM调度获得更好样本质量；低NFE的EDM-churn求解器亦如此。PI自适应求解器的FID优于多数随机及自适应基线，但低NFE时未胜过EDM-churn。语言扩散中，在低至中等NFE下，其困惑度优于EDM和熵调度，代价是token熵更低。最后，逐样本自适应收益依问题而定：一维玩具例子收益很大，图像和语言数据仅有边际收益，平均调度有时甚至优于PI自适应方案。代码见 https://github.com/ellakemperman/adaptive-second-order-diffusion-solvers