检索嵌入模型是否真正遵循任务指令？

提示嵌入模型最近受到越来越多的关注，特别是对于检索，其中提供详细的检索指令作为检索提示的一部分。几个新的数据集和研究已经检查了这种设置，表明当前的嵌入模型通常难以可靠地遵循此类指令。在本文中，我们研究了指令如何实际影响非对称检索任务中检索查询表示的机制。我们表明，当评估中包含查询端干扰时，模型甚至可能无法遵循简单的任务指令。我们假设这种行为是由当前嵌入模型的训练设置及其评估驱动的，并表明通过添加查询端干扰项进行微调可以带来实质性的改进，而对其他任务的影响最小。