RealRoute：通过检索然后验证范式的动态查询路由系统

尽管检索增强生成（RAG）在将 LLM 与外部知识结合方面取得了成功，但其在异构源（例如私有数据库、全球语料库和 API）上的应用仍然是一个重大挑战。现有方法通常采用 LLM 作为路由器来以预测方式将分解的子查询分派到特定源。然而，这种“LLM-as-a-Router”策略严重依赖于不同数据源的语义，当源边界不明确时，通常会导致路由错误。在这项工作中，我们引入了 RealRoute System，这是一个将范式从预测路由转变为强大的检索然后验证机制的框架。 RealRoute 确保 \textit{通过并行、与源无关的检索来确保证据完整性，然后通过动态验证器交叉检查结果并合成基于事实的答案}。我们的演示允许用户可视化实时“重新路由”过程并检查跨多个知识孤岛的验证链。实验表明，RealRoute 在多跳 Rag 推理任务中显着优于预测基线。 RealRoute 系统作为开源工具包发布，具有用户友好的 Web 界面。该代码可从以下 URL 获取：https://github.com/Joseph1951210/RealRoute。