论文
KITE:将长期会话记忆检索编译为可检查的索引决策过程
KITE: Retrieval as a Decision Procedure for Long-Term Conversational Memory
摘要
LLM 代理的许多长期记忆系统都是围绕基于嵌入的检索构建的。尽管对于语义匹配有效,但相似度排名本身并不能确定检索到的记忆是否满足问题所暗示的条件。在本文中,我们介绍了 KITE(知识索引时间证据),这是一种无向量框架,它将记忆检索制定为显式决策过程。 KITE 将多会话对话组织为由受控主题词汇索引的结构化知识,这些词汇通过受控扩展和整合而不断发展。在查询时,问题被编译成可检查的检索计划,基于指导记忆构建的相同知识索引。然后通过固定的查找和排序操作执行计划,同时稀疏词汇检索恢复结构化表示中省略的表面细节。 LoCoMo 和 LongMemEval-S 上的实验表明,KITE 在每个问题仅使用约 1.6k 个读取模型的上下文token的情况下实现了 93.5% 和 86.0% 的准确率。这些结果表明,通过围绕受控索引统一记忆构建和查询编译,会话记忆可以超越相似性排名,将检索转变为可检查的决策过程,以确定哪些证据满足问题。
