论文
深度即时间
Depth as Time in One-Step Generative Models
摘要
近期一波一步生成模型通过蒸馏或学习流图把多步扩散的多步轨迹压缩到单次前向,已能生成高质量图像。这里我们追问一个自然问题:当生成被压缩为单次前向传播时,多步扩散的去噪轨迹怎么了?我们给出一个经验观察,称之为"深度即时间":多步扩散在采样步间执行的去噪计算,似乎展布在单次前向传播的网络深度上,并可用模型自己的输出头解码中间层来恢复。最有趣的是,这种逐深度的计算取决于流图被训练解决的传输任务。最令人惊讶的是MeanFlow:探测更短的传输区间会揭示单次网络评估内同时存在去噪与再噪。相反,没有时间索引传输任务训练的生成器(如drifting模型)不表现出同样的逐深度去噪。因此,表现出逐深度去噪现象的模型在逐层计算上更可压缩:MeanFlow SiT-L/2模型可在参数上压缩16.6倍为一个时间条件块。我们对该去噪-再噪行为给出解释,并展示当把逐层计算显式视为流时,单个时间条件块可以被训练为跨层去噪,同样实现16.6倍参数压缩。这些结果说明扩散的时间计算并未被一步生成消除,而是在网络深度上被重组。