论文
LLM Agent长期记忆治理:分别控制准入与呈现
What to Admit and How to Present: Governing Persistent Memory in LLM Agents
摘要
持久记忆可以改善 LLM 代理的个性化,但也可能导致阿谀奉承和跨域泄漏。我们区分两种治理决策:准入,决定哪些召回信息进入工作环境;以及表示,决定如何表达已承认的信息。我们实现了两种无需重新训练的推理时间设计:评估整个内存条目的因子编译准入(FC)和将条目分解为类型单元的许可语义准入(PS);两者都通过确定性策略将裁决的属性转化为资格决策。我们对四主干开发套件和外部基准进行了评估,其中包含四个任务,每个任务有 300 个样本。相对于逐字注入,FC 和 PS 将外部基准的汇总法官评估失败率降低了 6.7 和 8.8 个百分点(p = 2.7e-7 和 4.1e-12),并且开发集跨域泄漏下降了高达 29.5 个百分点。查询条件门控基线显示客观事实故障或汇总故障没有显着变化。在下面 在匹配的入学预算下,PS 在 Holm 校正后的外部客观事实判断上优于随机和基于相关性的选择。保持演示固定不变,收紧准入将跨域失败进一步减少 17.5 个百分点 (p = 1.6e-4);相反,相同判定输出的两个渲染之间的比较无法通过多重比较校正。这两种设计都会增加个性化失败,并且 PS 错过了预先注册的改进和个性化保留标准。这些结果支持分别评估准入和呈现:选择质量提供了特定于任务的安全增益,同时保留有益的记忆使用仍然悬而未决。