PEEK：作为长上下文LLM智能体定向缓存的上下文地图

大语言模型（LLM）智能体越来越多地在长且反复出现的外部上下文上运行，例如文档语料库和代码仓库。在多次调用之间，现有方法要么保留智能体的轨迹，要么保留对原始材料的被动访问，要么保留任务级策略。它们都没有保留我们认为重复同上下文工作负载最需要的东西：关于反复出现的上下文本身的可复用定向知识（例如，上下文包含什么、如何组织，以及哪些实体、常量和模式在历史上曾经有用）。我们提出PEEK，一个将这些定向知识缓存并维护为上下文地图的系统：它是智能体提示中的一个小型、大小恒定的工件，让智能体得以持续窥见外部上下文。该地图由一个带三个模块的可编程缓存策略维护：Distiller从推理时信号中提取可迁移知识，Cartographer将其转化为结构化编辑，基于优先级的Evictor强制执行固定token预算。在长上下文推理与信息聚合上，PEEK较强基线提升6.3-34.0%，同时比最先进的提示学习框架ACE少用93-145次迭代、成本低1.7-5.8倍。在上下文学习上，PEEK的求解率与量规准确率分别提升6.0-14.0%与7.8-12.1%，成本比ACE低1.4倍。这些增益可泛化到不同的LM与智能体架构，包括生产级编码智能体OpenAI Codex。综合来看，这些结果表明上下文地图能帮助长上下文LLM智能体更准确、更高效地与反复出现的外部上下文交互。