论文

GenEvolve:通过工具编排的视觉体验自我进化的图像生成代理 蒸馏

GenEvolve: Self-Evolving Image Generation Agents via Tool-Orchestrated Visual Experience Distillation

摘要

开放式图像生成不再是简单的提示图像问题。高质量的生成往往需要智能体将模型的内部生成能力与外部资源相结合。随着请求变得更加多样化和苛刻,我们的目标是开发一种通用的图像生成代理,它可以通过轨迹自我进化,并更有效地使用工具来应对不同的生成挑战。为此,我们提出了 GenEvolve,一个基于工具编排的视觉体验 蒸馏 的自我进化框架。在 GenEvolve 中,每次生成尝试都被建模为工具编排的轨迹,其中代理收集证据、选择参考、调用生成技能,并将它们组合成提示参考程序。与主要依赖于图像级标量奖励的现有代理生成方法不同,GenEvolve 比较同一请求的多个轨迹,并将最佳与最差差异抽象为结构化视觉体验,仅提供给特权教师分支。受同策略自我蒸馏的启发,视觉体验蒸馏提供密集的词元级监督,帮助学生内化更好的搜索、知识激活、参考选择和提示构建。我们进一步构建了 GenEvolve-Data 和 GenEvolve-Bench。公共基准和 GenEvolve-Bench 的实验显示,与强大的基准相比,取得了显着的进步,在当前图像生成框架中实现了最先进的性能。我们的网站如下:https://ephemeral182.github.io/GenEvolve/