论文
ExpVoyager:动态Agent技能合成的直接体验导航
ExpVoyager: Direct Experience Navigation for Dynamic Agent Skill Synthesis
摘要
从 LLM Agent的经验中学习已成为开发不断学习和扩展其能力的自我进化Agent的关键范例。在这种范式中,综合Agent技能已成为一种有前途的解决方案,可将积累的经验转化为可重用的程序知识,并作为在运行时提供Agent的Harness系统的重要层。尽管有潜力,现有方法在下游需求已知之前很大程度上将过去的经验抽象为固定的程序知识,这有可能丢弃后来变得至关重要的知识,同时保留与未来任务无关的特定于实例的细节。在本文中,我们将智能体技能合成重新定义为基于过去经验的动态导航问题,其中智能体根据当前任务的需求主动探索积累的轨迹,并有针对性地、细粒度地访问经验知识。为此,我们提出了 ExpVoyager,这是一个新颖的框架,在该框架中,技能管理者可以在不同的视图和分辨率中导航原始经验,不断地从观察到的内容中识别可重用的程序知识,同时跟踪指导下一步导航的剩余知识需求。大量实验证明了 ExpVoyager 的有效性和多功能性,显示了下游任务性能的持续改进、随着体验空间规模的扩大而持续收益,以及在高效体验访问下与现有技能的实际兼容性。