复杂性平衡的扩散分裂

标准连续时间生成模型依赖于整体架构，该架构必须导航截然不同的信号状态，从各向同性噪声到复杂的数据分布。虽然扩展模型容量可以提高性能，但在整个生成时间线上统一部署大规模网络本质上是低效的。在这项工作中，我们提出了复杂性平衡拆分（CBS），这是一种时间容量分配的原则框架，可将生成工作负载分布在多个专用子网络之间。基于函数逼近理论和 de Boor 的均分原理，CBS 将扩散时间线划分为等逼近负担的片段，为生成动力学更难以建模的区域分配更多的表征能力。为了估计这种局部复杂性，我们引入了两个互补且易于处理的监控函数：基于流动狄利克雷能量的空间测量，以及基于采样轨迹加速度的几何测量。使用轻量级辅助模型来估计这些复杂性概况，我们的方法消除了启发式时间分割或计算昂贵的搜索过程的需要。跨多种架构（SiT、JiT 和 UNet）和数据集的广泛评估表明，CBS 始终如一地提高综合质量，而不会增加每步推理成本。特别是，相对于朴素时间分区，CBS 在带有 CFG 的 SiT-XL 上将 FID 提高了约 35%。项目页面位于 https://noamissachar.github.io/CBS/。