对话式智能体LLM系统中基于RAG记忆的面向目标推理

受限于有限的上下文，基于LLM的对话式AI智能体难以在长时程中保持连贯行为。尽管基于RAG的方法被日益采用以克服这一限制——将交互存储于外部记忆模块并从中检索——其在回答有挑战性的问题（如多跳、常识问题）时的效果，最终取决于智能体对检索信息进行推理的能力。然而，现有方法通常基于与用户原始话语的语义相似度检索记忆，缺乏对缺失中间事实的显式推理，常常返回无关或不足以支撑有据推理的证据。在本工作中，我们提出Goal-Mem，一个面向目标的RAG式智能体记忆推理框架，它以用户话语为目标执行显式的反向链推理。Goal-Mem不是从检索到的上下文逐步扩展，而是将每个目标分解为原子子目标，执行针对性的记忆检索以满足每个子目标，并在中间目标无法解决时迭代确定应从记忆中检索哪些信息。我们在自然语言逻辑（Natural Language Logic）中将这一过程形式化，该逻辑系统兼具FOL（一阶逻辑）所提供的推理可验证性与自然语言的表达力。通过在两个数据集上与九个强记忆基线进行的广泛实验，我们表明Goal-Mem持续提升性能，尤其在需要多跳推理与隐式推断的任务上。