AutoTarget：少步扩散transformer中缓存什么的再思考

扩散Transformer（DiT）可生成高质量图像与视频，但生成每个样本需要多次昂贵的DiT前向。加速DiT采样的两种常见方式是步蒸馏（减少采样步数）与缓存（复用较早步计算的张量跳过部分DiT评估）。多数缓存方法预先决定复用哪个张量；蒸馏后相邻采样步相距更远，跨更大间隔复用张量引入更多误差，因此选择缓存什么尤其重要。为此我们提出AutoTarget：为给定模型、求解器与复用调度选择缓存张量的方法——用一小组无缓存复用的运行测量复用每个候选张量引起的误差，选出误差最低的候选。我们还分析一处复用步的误差如何影响最终样本：对Euler采样识别产生相同轨迹的缓存目标，并解释为何存储的求解器更新可能不产生。蒸馏图像与视频DiT实验显示：最佳缓存目标随模型、分辨率与求解器而变；AutoTarget减少DiT评估与保留缓存存储，生成质量保持接近对应无缓存运行；受测PixArt-LCM与FLUX.1-schnell设置上其校准排名与留出缓存运行的排名一致。为帮助复现，我们在GitHub提供核心实现。代码/项目页：https://github.com/wali1024-offical/AutoTarget。