SCOUT：通过解耦认知状态进行长文本理解的主动信息搜寻

百万个词元规模的长文本理解（LTU）需要平衡推理保真度和计算效率。 Frontier 长上下文 LLM 可以端到端处理数百万个词元上下文，但它们面临高词元消耗和注意力稀释的问题。与此同时，专门的 LTU 代理通常会通过与任务无关的抽象（例如图形构建或索引）来牺牲保真度。我们确定了 LTU 的一个关键见解：查询相关信息相对于完整文档通常是稀疏的，因此有效的推理应该依赖于查询足够的子集而不是整个上下文。为了解决这个问题，我们提出了 SCOUT，这是 LTU 的一种新范式，从被动处理转变为主动信息采集。它将文档视为一个可探索的环境，并从一个紧凑的、基于起源的认知状态中得到答案。在状态级差距诊断的指导下，SCOUT 自适应地在从粗到细的探索和锚定状态更新之间交替，逐渐收缩其认知状态以实现查询充分性。实验表明 SCOUT 与最先进的专有模型相匹配，同时将词元消耗减少高达 8 倍。此外，随着上下文长度的扩展，SCOUT 保持稳定，从而大大减轻了实际的成本性能权衡。