注入还是导航？ LLM 交易法律文件分析的词元高效检索

回答有关一组交易法律文档的问题最简单的方法是在每个查询上将整个语料库注入到 LLM 的上下文窗口中。该基线最大限度地提高了检索召回率，但其标记足迹随语料库而不是问题缩放，并且长上下文退化也随之缩放。我们报告了如何在法律文档分析系统中取代全语料库注入，并将其与我们专有的结构感知分块上的两种结构化检索模式进行比较：嵌入检索 (NAVEMBED) 和紧凑结构化索引 (NAVINDEX) 上的 LLM 导航。在包含经过验证的 真值 答案的 20 个问题基准测试中，位置偏差控制、参考锚定的成对法官对 18 个文档绑定问题中的 16 个进行了与注入相关的重新排序，对语义检索进行了评分（在 2 个问题上首选注入），同时减少了 17.3 倍的输入标记（通用文本嵌入 (GTE) 配置在较低的匹配率下达到了 29.9 倍）；两种模式均根据 2 个超出范围的控制进行判断。 NAVINDEX 在所有 18 项指标中被评为并列，总词元占用量小了 1.61 倍，应答上下文小了约 56 倍，美元成本低了 25%。我们推导出一个封闭形式的缓存交叉规则：只有当语料库保持在检索有效负载的大约十倍以下时，缓存注入才更便宜。第 8 节对范围和不确定性进行了量化。