论文
CrystalMem:通过知识结晶为自演化LLM Agent构建弹性记忆
CrystalMem: Elastic Memory for Self-Evolving LLM Agents via Knowledge Crystallization
摘要
对于自进化大语言模型(LLM)代理的记忆,通常被视作其字节预算仅增长。然而,云平台通过调整配额来适应负载和成本,并且我们证明,能力并不遵循预算:在挤压和恢复循环之后,代理会低于其挤压之前的水平,我们称之为记忆滞回。原因在于其结构。删除和单向压缩会丢弃用于后续重建所需的材料,我们证明,任何只保留或删除条目(entry)的策略都存在一个剩余缺损地板。我们提出CrystalMem(Crystallized Memory),这是一种弹性记忆侧车,通过在结晶能量(schedule)下,将条目从四个保真度(fidelity)状态中降级,通过依赖耦合(coupling)来排序降级的影响,并通过明确的计算和字节数限制(byte caps)来恢复能力。在七个环境、十七个方法和六个基础架构(backbone)中,通过多租户服务和物理边缘-云部署,CrystalMem在每种设置下都实现了最高的恢复能力,并且闭合了每个基准方法留下的缺口。从50%的字节预算开始,CrystalMem在每种环境中都与最强的字节预算基准方法匹配,并且在平均值上领先4.6个百分点。
