论文
决策感知记忆卡:反事实启发的上下文选择与排序
Decision-Aware Memory Cards: Counterfactual-Inspired Context Selection and Compression for Tool-Using LLM Agents
摘要
现代大语言模型(LLM)代理不仅仅需要更长的上下文;他们在采取行动时需要与决策相关的证据。我们研究决策感知上下文选择:根据检索到的文件、测试、跟踪、规则和记忆对代理下一步行动的预期影响,而不是仅根据语义相似性,对它们进行排名。我们提出了反事实启发上下文层(CICL),它构建实例上下文图,估计候选单元的面向决策的效用,并将选定的证据压缩到类型存储卡中。可以使用托管的 LLM 法官、本地代理人或轻量级排名者实例化相同的模式,从而使选择协议可以跨模型选择进行审核。在 50 个 SWE 基准验证文件检索实例上,Qwen3.6-Plus 对 BM25 前 50 名候选者进行重新排名,将 hit@1 从 0.58 提高到 0.78,将 MRR@10 从 0.634 提高到 0.790,所有 2,500 个判断均可解析。受控诊断显示 CICL 识别了行动关键证据:删除顶级实用语义单元将 F1 从 0.245 降低到 0.000。在选择后压缩模式下,存储卡每次查询可保存 44.93 个令牌,同时保留选定的证据。 CICL 提供了一个实用层,用于为使用工具的代理测量、排名和压缩决策关键上下文。代码可在 https://github.com/stephen-guan-researcher/CICL 获取。