嵌入空间中的结构保留作为基准性能的预测因子

在本文中，我们展示了高性能嵌入模型以一致的方式组织其嵌入空间。我们在英语和多语言环境中评估了 5 个 MTEB 任务的 25 个当代嵌入模型，涵盖四个不同的任务类别（检索、双文本挖掘、对分类和摘要），并揭示了成对文本实例之间独立成分分析 (ICA) 中的最近邻重叠和幅度差异与给定任务的性能强烈相关（甚至高达 0.97）。最终，我们表明嵌入任务表现出不同程度的线性性和对本地信息保留的依赖。我们的结果进一步加深了对嵌入及其与模型性能的关系的理解，并揭示了未来可能的训练目标和优化条件嵌入。