PeLAP-A：轻量级潜在扩散模型的自适应潜在剪枝

潜在扩散模型通过在变分自动编码器（VAE）产生的压缩潜在空间中运行来实现强大的生成性能。然而，目前尚不清楚是否所有潜在通道对扩散过程的贡献均等，或者是否存在显着的冗余。我们引入了 PeLAP-A（自适应潜在扩散修剪），这是一个轻量级框架，它通过可学习的通道重要性预测器增强了标准潜在扩散管道。对全局池化潜在特征进行操作的两层 MLP 会生成一个软掩模，在不重要的潜在通道进入去噪 UNet 之前抑制它们。整个系统在 CIFAR-10 上结合扩散、重建和稀疏损失进行联合训练。实验揭示了一个惊人的结果：在积极的稀疏正则化（lambda = 0.01）下，重要性预测器将所有潜在通道驱动到接近于零，但与未剪枝的基线相比，去噪 UNet 实现了较低的扩散损失（0.0236 vs. 0.0240）和较低的 VAE 重建 MSE（22.59 vs. 24.67）。我们将其称为稀疏崩溃现象，并分析了它发生的原因以及它揭示了潜在扩散模型的信息需求。这些发现构成了对潜在扩散训练中稀疏性动态的探索性研究，并证明即使在积极的正则化下，去噪 UNet 也可以对潜在通道抑制保持非常稳健的能力。代码位于：https://github.com/kissasium/PeLAP-A.git。