ARMOR：针对低资源电信问答的自适应 检索器 优化

电信问答 (QA) 对于检索增强生成 (RAG) 来说是一个具有挑战性的环境：证据分散在标准、论文、百科全书资源和网络文档中，而答案通常取决于技术表格、方程和专门的协议语言。在资源匮乏的子域中，生成器 微调 可能会过度专业化并降低通用能力，从而使查询端 检索器 适应成为一种有吸引力的替代方案。为此，我们询问固定生成器、查询适应的 RAG 系统是否可以优于生成器端自适应，以及哪些 检索器 目标最能支持该设置。我们通过容量比较激励检索而不是生成器 微调 作为适应目标：在有界参数和软检索假设下，当有效维度较小时，查询编码器调整可以比监督 微调 具有更小的估计项。我们确定了两个特别相关的目标——优化生成效用的潜在文档 RAG 可能性，以及改进语义检索几何的 InfoNCE 对比目标——并通过针对电信领域下游 QA 性能的 检索器 优化方法联合利用它们。具体来说，我们引入了 ARMOR（检索器 的自适应正则化混合优化），它学习 RAG 检索分布和 InfoNCE softmax 的单独温度，并将适应的查询编码器正则化为冻结的基本查询编码器。在特定于电信的检索和生成 QA 基准测试中，我们表明 ARMOR 在多个域内设置中改进了证据检索和答案生成。代码可在 https://github.com/heshandevaka/ARMOR.git 获取。