论文
后期交互动力学工作笔记:分析后期交互模型的目标行为
Working Notes on Late Interaction Dynamics: Analyzing Targeted Behaviors of Late Interaction Models
摘要
虽然后期交互模型表现出强大的检索性能,但它们的许多潜在动态仍未得到充分研究,可能隐藏了性能瓶颈。在这项工作中,我们重点关注后期交互检索中的两个主题:使用多向量评分时出现的长度偏差,以及超出 MaxSim 算子汇集的最佳分数的相似性分布。我们在 NanoBEIR 基准上分析了最先进模型的这些行为。结果表明,虽然因果后期交互模型的理论长度偏差在实践中仍然存在,但双向模型在极端情况下也会受到影响。我们还注意到,除了 top-1 文档标记之外,没有显着的相似性趋势,这验证了 MaxSim 运算符有效地利用了 词元级 相似性分数。