论文

Sketch2Inspire:产品检索的结构敏感评估

Sketch2Inspire: Structure-Sensitive Evaluation for Product Retrieval

模型评测基准与评测资源

摘要

早期产品设计检索通常需要的不仅仅是类别识别:设计人员可能需要与简短语义意图和粗略结构提示相匹配的参考示例。现有的产品图像资源和通用图像文本检索基准很少将类别检索与类别内结构匹配分开。我们推出了 Sketch2Inspire,它是根据 Amazon Berkeley 对象的精选子集构建的,具有对齐的文本查询、基于边缘的草图代理查询和融合的文本草图查询。该资源将广泛的类别级检索与结构敏感的类别内检索分开,并包括用于校准的人工分级参考协议。我们评估了一个基于预训练 CLIP 系列编码器的轻量级参考系统,比较了纯文本检索、纯草图检索、加权后期融合和文本优先重排序,而不更新模型权重。在广泛相关性下,后期融合获得最高分数(nDCG = 0.9962)。在自动结构敏感相关性下,后期融合再次获得最高分(nDCG = 0.7015),超过纯文本检索(nDCG = 0.5912)。在人类评分结果中,后期融合获得最高的nDCG@10(0.9133),而纯文本检索排名第二(0.9030)。这些结果表明,多模态输入的检索增益取决于相关性的定义方式。因此,Sketch2Inspire 提供了用于评估模态贡献的诊断资源,并支持开发具有独立人工注释的结构感知产品检索协议。