论文
拨开迷雾:为LLM智能体植入并精炼主动探索能力
Clearing the Fog: Towards Installing and Refining Proactive Exploration Capabilities in LLM Agents
摘要
我们研究LLM智能体的主动探索,即为改善未来决策而探索环境以获取信息的能力。为此,我们首先识别出阻碍这一能力的两个根本瓶颈,随后提出一种旨在注入并精炼主动探索能力的新方法。具体而言,该方法由两个组件构成:(1)探索性数据构建,通过合成富含探索的轨迹来缓解标准示范固有的后见之明偏差;(2)带对比信号引导的强化学习优化,利用对比轨迹对来区分有成效的探索与冗余游荡。大量实验证明了该方法的有效性,并提供了对主动探索特性的洞见。我们的代码发布于:https://github.com/GuanZhizhao/SAFARI。
