Rosetta Memory：跨 LLM 代理的自适应内存

内存是通过经验积累、长期规划和持续自我完善将无状态 LLM 转变为持久、不断进化的智能体的关键组件。现有的内存系统通常以 LLM 为中心，设计针对特定主干的内存操作。然而，在实践中，用户经常在 LLM 之间切换，例如使用 Claude 进行编码，使用 GPT 进行跨任务编写，或者在单个任务中将不同的步骤路由到不同的主干，以实现成本效益的权衡。因此，一种模型写入的内存通常需要被另一种模型消耗。让上游内存有效地适应并激活下游 LLM 仍然是一个关键但尚未得到充分研究的问题。为了弥补这一差距，我们将视角从以 LLM 为中心的内存设计转变为 \emph{以内存为中心的 LLM 适应}。具体来说，我们从写入和读取双方处理上述上下游内存适应问题，并设计两个配置文件条件运算符，它们经过联合训练以优化内存的存储和呈现方式，以更好地完成任务。为了确保学习到的算子能够泛化到广泛的 LLM 集合，我们提出了最小增益采样课程，在训练期间优先考虑服务最少的 LLM。为了更好地衡量操作员的实际贡献而不是 LLM 自身的能力，我们设计了与朴素内存基线进行比较的性能差距奖励。 HotpotQA、2WikiMultihopQA 和 MuSiQue 上的实验表明，我们的模型始终优于基线，并且在看不见的模型替换下保持稳健。