论文
神经程序记忆:通过隐式激活指导为 LLM 代理提供支持
Neural Procedural Memory: Empowering LLM Agents with Implicit Activation Steering
摘要
虽然 大语言模型 (LLM) 作为静态求解器表现出色,但将它们转变为自主代理仍然具有挑战性。这种转变需要持续的环境交互,但当前的智能体缺乏必要的持久程序记忆。现有方法主要采用检索增强生成(RAG)将明确的文本指南注入模型上下文中。然而,仅仅依赖符号指令可能会导致文本操作脱节,经常无法激活正确任务执行所需的内部表示。为了解决这个问题,本文引入了神经过程记忆 (NPM),这是一个 无需训练 框架,它通过隐式激活控制而不是显式指令来表示代理记忆。通过将历史对比经验中的程序技能提炼为激活空间中的引导向量,NPM 直接激活与任务相关的神经机制来指导任务执行。对四个代理基准的评估表明,NPM 的性能与使用显式文本指令的基线相当。此外,结果表明,将隐式引导与显式工作流程相结合可提供互补优势,从而实现更稳健的任务执行。表征分析表明这些引导向量编码一致的任务逻辑,在激活空间内形成有组织的结构。这些发现表明,隐式激活引导为管理代理记忆提供了一种有前途的方法。