论文

重新思考在哪里编辑:基于指令的图像编辑的任务感知本地化

Rethinking Where to Edit: Task-Aware Localization for Instruction-Based Image Editing

应用与实践内容创作

摘要

基于指令的图像编辑(IIE)旨在根据自然语言指令修改图像。尽管最近在扩散 Transformer 方面取得了进展,但现有方法经常会对与所请求的编辑无关的区域引入意外的变化。我们将此限制归因于缺乏明确的编辑本地化机制。不同的编辑操作(例如,主题添加、删除和替换)会产生不同的空间模式,但现有的 IIE 模型通常以与任务无关的方式执行定位。为了解决这个限制,我们提出了一个 无需训练,任务感知编辑本地化框架,该框架利用 IIE 模型的内在源和目标图像流。对于每个图像流,我们根据基于注意力的编辑线索构建特征质心,然后根据特征相似性将标记划分为编辑和非编辑区域。观察到有效的本地化本质上是依赖于任务的,我们引入了一种统一的掩模构建策略,该策略根据编辑任务有选择地利用源流和目标流。我们还对我们的基本见解和设计选择进行系统分析。 EdiVal-Bench 上的大量实验表明,我们的框架持续提高非编辑区域的内容一致性,同时在 Step1X-Edit 和 Qwen-Image-Edit 之上保持强大的指令跟踪性能。