论文

评估生成图像模型的知识产权护栏:技术报告

Evaluating Intellectual Property Guardrails of Generative Image Models: A Technical Report

模型评测安全与风险评测

摘要

生成图像模型能够生成与可识别的知识产权 (IP) 非常相似或复制的图像。在这份技术报告中,我们提出了一个基准和自动评估管道,用于测试生成图像模型中 IP 护栏的证据以及这些模型生成具有可识别 IP 的图像的倾向。我们测试的 IP 类别包括虚构人物、名人肖像和商业徽标,并不涵盖图像生成模型可能涉及的全部 IP。我们评估了 14 个广泛使用的文本到图像模型,包括三个自托管开放权重模型和 11 个私有模型。尽管由于 IP 护栏的原因,所有私有模型都在某种程度上拒绝生成,但模型之间拒绝生成的频率差异很大。所测试的不同知识产权类别的拒绝率也有很大差异。平均而言,商业徽标被拒绝的频率最低,并且成功生成的频率最高。尽管比率各不相同,但截至 2026 年 3 月,所有测试的模型都可以轻松生成包含可识别 IP 的图像。