论文

SampoTron:编码器跨语言检索的查询侧LoRA路由

Query-aware routing for Cross-lingual performance gains in Encoders

上下文与知识检索增强

摘要

多语言编码器在查询与相关文档语言不同时常出现检索效能下降,尽管同语言性能强劲。我们研究能否在保持编码器既有同语言性能与文档索引的同时改善芬兰语与瑞典语跨语言检索。我们把针对冻结文档嵌入训练的仅查询低秩适配器,与基于查询与索引语言的确定性路由结合:跨语言查询使用适配器,同语言查询使用原编码器。SampoTron——我们微调的低秩(LoRA)适配器搭配Nemotron-3-Embed-1B模型——把英/芬/瑞六方向的平均检索质量(nDCG@10)从0.241提升到0.291,相对增益20.9%(抽样金融基准)。全部六个跨语言方向都改善,路由保留了原同语言性能,包括两个全语料芬兰语评估。该方法支持选择性跨语言特化并复用文档嵌入向量。