论文
类别条件记忆保留:智能体何时写入、何时放弃
When to Remember, When to Abstain: Category-Conditioned Retention for Reliable Agent Memory
摘要
持久性智能体记忆 的可靠性取决于其保留决策:其来源弱支持的断言可以被存储,并在以后作为既定事实重新使用。我们研究保留决策是否应该由以断言的语义类别为条件的置信栏来控制,而不是由单一的全局阈值来控制,自由地保留证据充分的类别,同时在推理不可靠的情况下更积极地放弃。我们在 100 个合成角色上部署的冷启动记忆管道中对此进行了评估。实证评估的动机是严重的可靠性不对称:在 4{,}715 个候选断言中,只有 77.9% 的价值和信念断言得到其来源的支持,而所有其他类别的这一比例为 96.2%。全局置信度阈值无法将这些分开:它要么承认不受支持的价值主张,要么放弃证据充分的价值主张。根据类别调整阈值可以解决这种权衡问题。在重复的 保留测试 评估中,仅对值进行更严格的限制即可将无支持的保留率从 6.2\% 减少到 4.0\%(${\approx}36\%$ 相对减少,适度但跨折叠一致),并且作为确凿的证据,与可比较保留率的全局阈值相比,保留了估计多 13 个百分点的覆盖率 (95\% CI 9.8--16.0)。我们的结果表明,可靠的保留取决于断言的类型,而不仅仅取决于置信度,并且类别条件阈值可以充当写入边界处的选择性预测的简单、有效的形式。