扩散模型的多目标学习：半监督学习下的统计理论

扩散模型越来越多地用作强大的条件生成器，但实际部署通常涉及不同任务产生的多个目标分布，例如文本到图像生成中的不同提示域，或具有扩散策略的机器人技术中的多个环境。这自然会导致多目标学习（MOL）问题。一个关键的挑战是，实现良好的帕累托权衡可能需要一个通用模型类，其容量远大于足以解决任何单个任务的容量，从而增加了统计成本，因为样本复杂性通常随着模型复杂性而扩展。为了协调这一点，我们为有限数据的扩散模型开发了一个原则性的 MOL 框架：一种半监督机制，其中配对（标记）样本稀缺，但（未标记）条件数据丰富。我们提出了一个两阶段的训练过程，首先从有限的配对数据中拟合轻量级专业模型，然后通过生成伪样本将它们提炼成通用模型。我们建立了泛化界限，表明所需的配对样本数量仅取决于专业模型类的复杂性。我们进一步将该理论扩展到用于顺序决策的扩散策略，以解释 同策略 轨迹采样中的分配变化。对机器人控制和图像恢复任务进行了大量的实验来验证我们的理论结果。