论文

面向扩散模型的进化式词元级提示优化

Evolutionary Token-Level Prompt Optimization for Diffusion Models

上下文与知识上下文工程

摘要

文生图扩散模型展现出强大的生成性能,但对提示表述高度敏感,往往需要大量人工试错才能获得满意结果。这促使人们开发自动化、模型无关的提示优化方法,以系统性地探索超越常规文本改写的条件空间。本工作研究使用遗传算法(GA)进行提示优化,直接演化基于CLIP的扩散模型所使用的词元向量。该GA优化一个适应度函数,将LAION Aesthetic Predictor V2度量的美学质量与CLIPScore评估的提示-图像对齐相结合。在Parti Prompts(P2)数据集的36条提示上的实验表明,所提方法优于Promptist与随机搜索等基线方法,适应度最高提升23.93%。总体而言,该方法适用于具有词元化文本编码器的图像生成模型,并为未来扩展提供了一个模块化框架,文中讨论了其局限与前景。

面向扩散模型的进化式词元级提示优化:论文配图
图1:进化式token级提示优化的总体结构与工作流,展示各主要组件及其输入输出,为扩散模型自动优化生成提示。