论文

本地化,而不是美化:用于整容手术预览的图像编辑 API 的客户端控制

Localize, Don't Beautify: Client-Side Control of Image-Editing APIs for Cosmetic Surgery Previews

应用与实践内容创作

摘要

要求商业图像编辑器预览整容手术,它通常会改变比请求名称更多的脸部:鼻子编辑还可以平滑皮肤或改变灯光。将编辑限制在一个区域的现有方法需要访问模型的内部结构,而公共编辑 API 不会公开这一点。我们询问仅从客户端可以进行多少控制。在试点基准中,六种商业编辑配置和一种基于蒙版的修复模型在三个客户端控制级别执行整容式下颌颈和鼻整形术编辑:仅提示;将编辑后的区域从响应中剪切出来,并通过地标衍生的蒙版(蒙版合成)将其粘贴回原始照片上;并要求模型本身在受支持的面具内部进行修复。在 210 次编辑尝试中,有 196 次可以得分。 ArcFace 余弦测量身份保存; CIELAB 像素变化比率测量有多少变化落在所请求的区域而不是受保护的面部区域内。在区域指标可以评分的 12 个正面上,蒙版复合将定位比配对的仅提示输出提高了中位数 0.446(95% 面部聚类引导区间 0.421-0.457),同时改变了请求的区域。编辑人员在编辑强度与身份保留方面存在差异,我们测试的一种修复模型并没有击败简单的复合模型。根据每张脸的输入到术后基线,没有编辑器将其输出从身份嵌入的角度更接近术后照片。这是一项控制研究,而不是临床准确性:没有外科医生对输出进行评级,并且每个条件都生成一次。在此范围内,将手术预览保留在其预期区域内不需要访问模型;客户端上的掩码和合成在每个测试的编辑器中强制执行,并且提供商成本较低。