论文
从知识获取到来源学习:发展特定来源的能力
From Knowledge Access to Source Learning: Developing Source-Specific Competence
摘要
大语言模型 (LLM) Agent越来越依赖持久的外部源来解决知识密集型任务序列。现有方法改进了源内容的访问和组织方式,而智能体记忆系统保留了先前交互中的可重用知识,但重复使用同一源在很大程度上仍然被视为重复访问,而不是逐步提高对该源的理解的机会。我们研究源学习:在持久的权威源上开发可重用的源特定能力。我们用持久源模型来表示这种能力,该模型捕获对源的可重用理解,包括其知识是如何构建、解释和应用的。为了构建并逐步完善此类模型,我们提出了 SourceLearn,它结合了两种互补的学习机制。自我导向源学习识别尚未完全理解的内容并自适应地重新访问源,而任务引导源学习使用下游经验来揭示本地代表性差距和如何组织源知识的重复需求。在这两种情况下,学习信号决定应该重新考虑什么,而持久更新是从权威来源重建的。在五个基准测试和三个 LLM 后端中,SourceLearn 在 15 种设置中的 13 种中实现了最佳性能,比混合 RAG 提高了高达 22.6 分,并且比静态源表示和基于经验的内存基线有了显着的整体改进。