论文

MULTI3IR:多视角多域多模态信息检索的基准

MULTI3IR: A Benchmark for Multi-perspective Multi-domain Multi-modal Information Retrieval

模型评测基准与评测资源

摘要

信息检索 (IR) 越来越多地针对允许不同观点的开放式查询。然而,现有的 IR 基准主要关注封闭式查询,而即使是开放式基准也主要由其支持文档跨越单个主题域和模式的查询组成。我们引入了 Multi$^3$IR,这是一个基准,用于评估 检索器 涵盖跨不同领域和模式的开放式查询的多方面视角的程度。它包含 104.9K 个 Stack Exchange 查询,每个查询都带有捕获查询隐式观点的透视描述。我们进一步提出了 SPIN,这是一种参数和标签有效的方法,可以学习噪声向量以将嵌入引向多样化但有意义的语义方向。实验表明,现有的多模态 检索器 存在单视角偏差,而 SPIN 大大提高了 Multi$^3$IR 的视角覆盖率,并很好地推广到了未见过的开放式 IR 基准。数据集和实验代码可在 https://github.com/seokwon99/Multi3IR 获取。