视觉生成中文本调节的缩放属性

我们研究视觉生成中文本调节的经验缩放特性。这些属性很少被测量，因为扩散损失不会随着自然语言提示中标记的数量而变化。令人惊讶的是，我们发现收敛的扩散损失随着提示中结构化语言的数量而变化。为了量化结构化语言，我们采用了两种互补的度量：白盒似然度量（GPG）和黑盒属性度量（ED）。在受控训练运行中，收敛扩散损失与 GPG 近似线性下降，并遵循 ED 的幂律。在这些缩放属性的指导下，我们通过使用源自图像的语义和几何注释构建结构化提示来提高 emph{扩散性}，并通过监督 微调、冷启动和验证者门控 同策略 蒸馏 训练提示器来提高 emph{提示性}。由此产生的系统在几乎所有组合、推理和世界知识基准上都优于所有评估的开放权重模型，同时在大多数评估中匹配或超过最强的封闭权重模型。