论文
会话检索的鲁棒性风险:识别和减轻 Qwen3-Embedding 模型中的噪声敏感性
Robustness Risk of Conversational Retrieval: Identifying and Mitigating Noise Sensitivity in Qwen3-Embedding Model
摘要
我们提出了在现实对话环境下基于嵌入的检索的实证研究,其中查询很短、类似对话且弱指定,并且检索语料库包含结构化对话工件。着眼于 Qwen3 嵌入模型,我们发现了一个与部署相关的鲁棒性漏洞:在没有查询提示的对话检索下,结构化对话式噪声可能会变得不成比例地可检索并侵入排名靠前的结果,尽管在语义上信息量不大。这种故障模式在模型规模上一致出现,在标准干净查询基准下基本上不可见,并且在 Qwen3 中比早期的 Qwen 变体和其他广泛使用的密集检索基线更为明显。我们进一步表明,轻量级查询提示可以定性地改变检索行为,有效抑制噪声入侵并恢复排名稳定性。我们的研究结果强调了对话检索中尚未充分探索的稳健性风险,并强调了反映已部署系统复杂性的评估协议的重要性。