论文
通过模型合并提高会话信息检索的临时搜索效率
Improving Ad-hoc Search Effectiveness for Conversational Information Retrieval via Model Merging
摘要
会话信息检索具有挑战性,因为它需要考虑会话历史,这可能会导致主题转移和先前回合的共指解析。为了应对这些挑战,以前的工作主要依赖于会话数据集上的传统 微调 或临时 检索器 或通过多任务推断其通用性。然而,这种主流方法成本高昂,因为它需要模型重新训练,并且会出现灾难性遗忘,模型会失去其基本的临时检索性能。在本文中,我们通过引入模型合并作为 无需训练 策略来填补这一空白,从而能够设计一个跨临时和会话设置运行的单一检索模型,而无需额外的 微调。我们使用线性和非线性参数合并策略(即 Model Soup 和 Slerp)在标准即席搜索和会话检索数据集上进行实验。我们的结果表明,模型合并显着增强了会话式 检索器 的即席搜索能力,同时提高了跨特定任务数据集的通用性,在零样本条件下实现了高达 15% 的 NDCG@3 提升。