论文

选择文本嵌入模型:实用的基准测试和决策框架

Choosing a Text Embedding Model: A Practical Benchmarking and Decision Framework

模型评测模型能力评测

摘要

选择正确的文本嵌入模型是构建检索或搜索系统时最重要且最常被忽视的决策之一,但排行榜上名列前茅的模型很少是给定部署的最佳选择。本报告开发了一个实用的、基于证据的嵌入模型选择框架,该框架建立在一项基准研究的基础上,该基准研究针对英语检索任务上的一系列开源替代方案来评估 T3EM(文本 3 嵌入模型)(一种基于商业 API 的嵌入模型),并将这些发现置于更广泛的大规模文本嵌入基准 (MTEB) 领域,涵盖分类、聚类、语义相似性、重新排序、配对分类、双文本挖掘和总结。除了原始基准分数之外,该报告还追踪了从嵌入模型到检索结果的完整路径——嵌入是如何生成的,如何大规模索引和搜索它们,以及文档分块策略如何影响检索质量——以便模型选择可以作为完整检索管道中的一项决策来推理,而不是孤立的。结果是根据任务、延迟、成本和部署约束选择嵌入模型的一组综合实用建议。