论文

ASTRA:与人类感知对齐的风格迁移评测

Perceptually Aligned Evaluation of Style Transfer

模型评测应用与实践评测方法与指标模型能力评测内容创作

摘要

风格迁移缺乏可靠的评估标准:基本事实本质上是不明确的,现有的自动指标往往无法反映人类的偏好。本文介绍了 ASTRA(Assessment of Style TRansfer Algorithms),一种自动评估风格转移算法的方法;它包含两个组件:ASTRA-Data 和 ASTRA-Score。 ASTRA-Data 包含内容和风格参考的基准图像集、基准集上生成的风格迁移结果集合以及通过两阶段成对比较协议捕获人类判断的用户研究数据。从这些注释中,我们得出基于排名的基本事实,用于内容保存、风格保真度和整体偏好。基于 ASTRA-Data,我们构建了 ASTRA-Score,这是一个学习评估器,可以根据内容风格风格化图像三元组预测偏好一致的分数,从而能够自动且可扩展地评估应用于基准集的新模型。实验结果表明,与人类排名相比,ASTRA-Score 与人类排名的相关性显着提高 先前的指标。总体而言,ASTRA 建立了一个稳健的风格转移方法标准化评估机制。

ASTRA:与人类感知对齐的风格迁移评测:论文原图
图 8:建议的评估模型概述。冻结的 VGG11 从生成的图像 IgI_{g} 中提取内容特征 (𝐟cg,𝐟c\mathbf{f}_{c}^{g},\mathbf{f}_{c}) 和风格特征 (𝐟sg,𝐟s\mathbf{f}_{s}^{g},\mathbf{f}_{s}),内容参考IcI_{c} 和样式参考 IsI_{s}。采用三个独立的头:内容头使用 phi⁡(𝐟cg,𝐟c)\phi(\mathbf{f}_{c}^{g},\mathbf{f}_{c}),样式头使用ψ⁡(𝐟sg,𝐟s)\psi(\mathbf{f}_{s}^{g},\mathbf{f}_{s}),整体头部结合两个关系特征来预测整体质量得分。