论文

理解检索环境感知的信息检索行为

Understanding the Behaviors of Environment-aware Information Retrieval

模型训练强化学习

摘要

检索增强生成能够处理复杂查询,但不同检索器需要不同的查询构造策略才能取得较好效果。本文系统分析大语言模型如何通过强化学习适配不同检索器。实验发现,模型可以学习根据检索器特性定制查询,而不同检索器的最佳查询风格明显不同,例如偏好描述式或问题式表达,因此对某个检索器有效的策略可能对另一个无效。加入检索器专属的人工指导及扩大模型规模可进一步改善表现。为支持包含多次检索的轨迹学习,作者提出分支轨迹采样技术以提升训练稳定性。代码与资源:https://github.com/LCO-Embedding/Envs-aware-Information-Retrieval。