论文
事实作为一等对象:用于LLM持久记忆的知识对象
Facts as First Class Objects: Knowledge Objects for Persistent LLM Memory
摘要
大型语言模型越来越多地充当持久性知识工作者,而上下文内记忆——即存储在提示中的事实——是默认策略。我们将上下文内记忆与知识对象(Knowledge Objects, KO)进行基准对比,后者是具备O(1)检索能力的离散哈希寻址元组。在上下文窗口内,Claude Sonnet 4.5在10至7,000条事实(占其200K窗口的97.5%)范围内达到100%的精确匹配准确率。然而,生产部署暴露出三种失效模式:容量限制(8,000条事实时提示溢出)、压缩损失(摘要化破坏60%的事实)以及目标漂移(级联压缩侵蚀54%的项目约束,而模型仍满怀信心地继续执行)。KOs在所有条件下均达到100%准确率,且成本降低252倍。在多跳推理上,KOs达到78.9%,而上下文内记忆仅为31.6%。在四个前沿模型上的跨模型复现证实,压缩损失是架构性的,而非特定模型所致。我们还表明,嵌入检索在对抗性事实上会失效(precision@1为20%),而神经记忆(Titans)虽能存储事实却无法按需检索。我们引入密度自适应检索作为切换机制,并发布了基准测试套件。
