论文
Uni-Edit:智能编辑是统一模型调优的通用任务
Uni-Edit: Intelligent Editing Is A General Task For Unified Model Tuning
摘要
目前,增强统一多模态模型(UMM)的图像理解、生成和编辑能力主要依赖于混合多任务训练。由于固有的任务冲突,这种策略需要复杂的多级管道、大量数据混合和平衡技巧,仅仅导致性能权衡,而不是真正的相互增强。为了打破这种范式,我们提出了 Uni-Edit,这是一种智能图像编辑任务,可作为 UMM 调优的第一个通用任务。与复杂的混合管道不同,Uni-Edit 仅使用一项任务、一个训练阶段和一个数据集即可同时提高所有三种能力的性能。具体来说,我们首先将图像编辑视为本质上理想的一般任务,因为它自然需要视觉理解和生成。然而,现有的编辑数据依赖于简单的指令,严重未充分利用模型的理解能力。为了解决这个问题,我们引入了第一个用于智能编辑的自动化且可扩展的数据合成管道,将不同的 VQA 数据转换为具有嵌入式问题和嵌套逻辑的复杂且有效的编辑指令。这产生了 Uni-Edit-148k,将不同的推理密集型指令与高质量的编辑图像配对。在 BAGEL 和 Janus-Pro 上进行的大量实验表明,仅在 Uni-Edit 上进行调优即可实现所有三种功能的全面增强,而无需任何辅助操作。