论文

Library定理:外部组织方式如何支配智能体推理能力

The Library Theorem: How External Organization Governs Agentic Reasoning Capacity

上下文与知识记忆Agent记忆

摘要

外化推理已经通过思维链被基于transformer的智能体所利用,但结构化检索——对自己的推理状态建立索引——仍未被充分探索。我们将transformer上下文窗口形式化为一个I/O页面,并证明拥有索引化外部记忆的工具增强智能体,其检索成本相比仅限顺序扫描的智能体呈指数级降低:每次查询为$O(\log_b N)$对$Ω(N)$次页面读取,$T$个推理步骤内的累计成本为$O(T \log_b T)$对$Θ(T^2)$——这一差距随着思考深入而不断扩大。我们在一个受控的查找基准上检验这些预测,覆盖三种内容类型——随机哈希、有序整数和百科条目——存储规模从50到5,000项不等,并在两代模型(GPT-4o-mini和GPT-5.4)上复现关键条件。在抽象内容上,无论存储规模多大,索引化智能体的中位数页面读取仅为1次,证实了$O(1)$的预测。无索引的有序页面无法弥合差距:较弱的模型无法在规模化后维持二分搜索,较强的模型实现了接近最优的$\log_2 N$搜索,但仍以$5\times$的差距输给索引。在熟悉内容(百科条目)上,出现了另一种竞争性失败模式:模型识别出领域后绕过检索协议,直接从参数化记忆生成答案,即使索引完好也会产生灾难性的token开销。这种参数化记忆竞争将索引所结合的两种认知操作分离开来:理解内容(语言模型的强项)与遵循导航协议(当理解诱使其走捷径时,模型在此失败)。该结果支持关注点分离:让语言模型负责索引构建(语义理解在此有益),让确定性算法负责索引遍历(语义理解在此有害)。

Library定理:外部组织方式如何支配智能体推理能力:论文配图
图 1:三种条件(哈希内容)的页面读取 (RR) 和准确性与项目计数 MM 的关系。 FLAT(红色)线性增长,跟踪 M/(2​P)M/(2P) 预测。 INDEXED(蓝色)保持恒定在 ≈1{\approx}1。 INDEXED-CORRUPTED(粉红色)在大 MM 处超过 FLAT,证实了因果索引的使用。阴影带显示四分位数范围。