LAM：具有检索分数错误界限的高效有损Agent记忆框架

随着Agent读取输入、推理和调用工具，Agent记忆会增长。较长的历史会增加推理成本并最终超出上下文窗口。基于 LLM 的摘要减少了此历史记录，但增加了延迟，并且对信息丢失没有提供明确的限制。我们提出 LAM，一种有损Agent记忆系统，具有三个组件：确定性重复数据删除规则，在检索分数上具有替换界限 - 分数扰动的界限，而不是排名不变的证书；一个记忆管理器，保留缓存的前缀并将压缩与推理重叠；以及在部署之前估计压缩成本的性能模型。在 600 个智能体轨迹上，LAM 删除了 22.47% 的观察标记，同时保留了 99.984% 的测量黄金补丁证据。在固定删除集上，性能模型预测通过在预填充之前删除记录而不是从预填充上下文中删除记录，端到端加速可提高 71.4 倍到 91.6 倍。这种好处来自于时间表而不是规则，并且适用于任何保留前缀的测试。