测试时实例特定的参数组合：自适应生成建模的新范式

现有的生成模型（例如扩散网络和自回归网络）本质上是静态的，依赖一组固定的预训练参数来处理所有输入。相比之下，人类可以灵活地调整其内部生成表征以适应每种感知或想象力的背景。受此功能的启发，我们引入了 Composer，这是一种基于测试时实例特定参数组合的自适应生成建模的新范式。 Composer 在推理时生成输入条件参数自适应，这些参数自适应被注入到预训练模型的权重中，从而无需 微调 或重新训练即可实现按输入专门化。适应在多步生成之前发生一次，以最小的计算和内存开销产生更高质量、上下文感知的输出。实验表明，Composer 显着提高了各种生成模型和用例的性能，包括轻量级/量化模型和测试时间缩放。通过利用输入感知参数组合，Composer 建立了一种新的范式，用于设计动态适应每个输入的生成模型，超越了静态参数化。