论文

Skill-RAG:通过隐藏状态探测和技能路由增强故障状态感知检索

Skill-RAG: Failure-State-Aware Retrieval Augmentation via Hidden-State Probing and Skill Routing

上下文与知识检索增强

摘要

检索增强生成(RAG)已成为将 大语言模型 扎根于外部知识的基础范例。虽然自适应检索机制提高了检索效率,但现有方法将检索后失败视为重试信号而不是诊断信号,从而导致查询证据不一致的结构性原因未得到解决。我们观察到,持续检索失败的很大一部分不是源于缺乏相关证据,而是源于查询和证据空间之间的对齐差距。我们提出 Skill-RAG,这是一种故障感知 RAG 框架,它将轻量级隐藏状态探测器与基于提示的技能路由器结合起来。探测器在两个管道阶段进行检索;一旦检测到失败状态,技能路由器就会诊断根本原因,并在四种检索技能中进行选择——查询重写、问题分解、证据聚焦和真正不可简化案例的退出技能——以在下一代尝试之前纠正错位。跨多个开放域 QA 和复杂推理基准的实验表明,Skill-RAG 显着提高了多轮检索后持续存在的困难案例的准确性,尤其是在分布外数据集上的收益尤其显着。表示空间分析进一步表明,所提出的技能占据了故障状态空间的结构化、可分离区域,支持查询证据错位是一种类型化而非单一现象的观点。