论文

TextRefine:改善产品海报文字编辑的准确性、位置和字形

TextRefine: Improving Textual Fidelity, Spatial Placement, and Glyph Rendering for Text Editing in Product Posters

模型训练奖励建模与过程监督

摘要

产品海报中的文本编辑需要插入新文本或替换现有文本,同时保留产品外观、背景内容和整体构图。尽管基于指令的图像编辑最近取得了进展,但通用模型在这种情况下仍然不可靠:它们经常省略或错误地渲染目标文本,将其放置在显着产品或预先存在的内容上,并产生结构扭曲或视觉不一致的字形。我们引入了 \textbf{TextRefine},这是一个与任务一致的 后训练 框架,它将受监督的 微调 与特定于操作的奖励优化相结合,以解决这些互补的故障模式。对于文本插入,我们的文本跨度级别奖励联合评估语义保真度和目标跨度覆盖率,惩罚与产品和现有文本的空间冲突,并采用门控结构约束来保留非文本区域。对于文本替换,我们的字形级奖励利用目标字符的联结时间分类(CTC)后验来为细粒度缺陷提供分级监督,包括缺失笔划、结构变形和视觉相似字符之间的混淆。我们进一步介绍了 \textbf{OpenTextEdit},这是一个包含 10 万张图像的数据集,用于产品海报中的文本编辑,具有多文本布局、详细的文本属性、产品掩码和具有挑战性的低频字符。关于插入和替换的大量实验表明,TextRefine 在文本保真度、放置可靠性和字形质量方面始终优于评估的图像编辑基线,同时更好地保留源图像内容。