金融 RAG 的可持续混合文档路由检索：解决鲁棒性与精度的权衡

用于财务文档 QA 的检索增强生成 (RAG) 系统通常遵循基于块的范例：文档被分割成片段、嵌入并通过相似性进行检索。在结构同质的语料库（例如监管文件）中，这会遇到跨文档块混乱的问题。语义文件路由 (SFR) 使用 LLM 结构化输出将查询路由到整个文档，减少了灾难性故障，但牺牲了目标块的精度。我们在 FinDER 基准（五个组中的 1,500 个查询）上确定了这种鲁棒性与精度的权衡：SFR 实现了更高的平均分数（6.45 vs. 6.02）和更少的失败（10.3% vs. 22.5%），而基于块的检索 (CBR) 产生了更完美的答案（13.8% vs. 8.5%）。为了解决这个问题，我们提出了混合文档路由检索（HDRR），这是一种两阶段架构，使用 SFR 作为文档过滤器，然后进行针对已识别文档的块检索，消除跨文档混淆，同时保留块精度。 HDRR 在每个指标上都实现了最佳性能：平均得分为 7.54（比 CBR 高出 25.2%，比 SFR 高出 16.9%），失败率为 6.4%，正确率为 67.7%（比 CBR 高出 18.7 个百分点），完美答案率为 20.1%（比 CBR 高出 6.3 个百分点，比 SFR 高出高出 11.6 个百分点），同时实现了最低的故障率和最高的精度跨越所有五个组。除了准确性之外，HDRR 也是高质量系统中最高效的：它保留了 CBR 紧凑的每次查询 词元预算（约 5K-15K，比 SFR 的约 50K-200K 低一个数量级），不产生索引时间 LLM 支出（相对于上下文索引的一次性约 100 美元成本），并且每次查询使用更少LLM 调用比自我更正的代理基线，直接转化为部署规模上更低的 API 支出和推理时间能量。