UniMem：用于边界无关任务流的补充情景到参数存储器

内存对于 LLM 代理积累任务经验和重用特定于任务的执行策略至关重要。然而，现实世界中边界不可知和不断发展的任务流的部署暴露了一个基本的稳定性-可塑性困境。基于外部检索的记忆可以快速吸收新证据，但它通常无法内化重复执行模式并产生推理时间检索开销。参数记忆一旦学习就可以实现稳定和高效的执行，但通常依赖于明确的任务边界和固定的参数预算。受人脑的启发，人脑通过互补的情景存储和逐步巩固来平衡可塑性和稳定性，我们提出了 UniMem，一种用于自主内存管理的自路由框架。 UniMem 使用可学习的路由词元作为内存控制器，实现互补内存路径之间的自适应协调：新颖或稀疏的任务保留在情景缓冲区中，用于检索增强执行，而重复且可靠的模式则被整合到可扩展的参数内存中。通过使用路由词元和参数化内存块将任务识别与任务执行解耦，UniMem 可以在部署期间或不受控制的参数增长期间按需扩展内存，而无需任务标签。长视野流任务序列的实验表明，UniMem 在保持执行保真度的同时始终优于基线，在三个骨干模型中实现了 4.0 EM 点的平均增益。