可控记忆使用：在长期人-Agent交互中平衡锚定与创新

摘要

随着基于 LLM 的 Agent 越来越多地用于长期交互，累积记忆对实现个性化、保持风格一致性至关重要。然而，大多数现有系统对记忆的使用采取“全有或全无”的方式：纳入所有相关历史信息会导致“记忆锚定”（Memory Anchoring），Agent 被过去的交互困住；而完全排除记忆则导致利用不足并丢失重要交互历史。我们证明，Agent 对记忆的依赖可以被建模为一个显式的、用户可控的维度。我们首先提出一个记忆依赖的行为度量，用以量化过去交互对当前输出的影响。随后提出可调控记忆 Agent（Steerable Memory Agent，SteeM），这是一个允许用户动态调节记忆依赖程度的框架，范围从促进创新的从头开始（fresh-start）模式到紧密跟随交互历史的高保真模式。在不同场景下的实验表明，我们的方法始终优于常规提示和生硬的记忆屏蔽策略，为个性化的人-Agent协作提供了更细致、更有效的控制。

可控记忆使用：在长期人-Agent交互中平衡锚定与创新配图 — 图 2：我们的方法与发现概览。(A) 我们使用基于量规（rubric）的评判者对响应的记忆依赖程度打分，并计算其与目标依赖度的对齐误差。(B) 我们揭示了现代 LLM 中的“记忆锚定”（Memory Anchoring）现象：尽管用户意图是低依赖，输出仍默认高度依赖记忆。(C) 我们提出 SteeM，通过偏好对齐的数据生成流水线构建，随后进行 SFT 与 GRPO，实现可控的记忆使用。(D) SteeM 在对齐用户指定的记忆依赖偏好方面取得了更好的效果。